شکایت علیه OpenAI در اتریش و احتمال نقض قوانین اتحادیه اروپا

گروه حقوق Noyb در اتریش شکایتی علیه OpenAI به دلیل ارائه اطلاعات نادرست توسط چت‌بات هوش مصنوعی ChatGPT مطرح کرده است.

شخصی که هویتش مشخص نشده از چت‌بات خواسته بود تا اطلاعاتی درباره خودش ارائه دهد و به طور مداوم با اطلاعات نادرست روبرو شده است. OpenAI درخواست اصلاح یا حذف داده‌ها را رد کرده و از افشای اطلاعات درباره داده‌های آموزشی و منابع آن خودداری کرده است. Noyb خواستار بررسی فرآیند پردازش داده‌های OpenAI و اطمینان از دقت داده‌های شخصی که توسط مدل‌های زبانی بزرگ آن پردازش می‌شوند، شده است.

این موضوع نشان می‌دهد که شرکت‌ها در حال حاضر قادر به انطباق چت‌بات‌هایی مانند ChatGPT با قوانین اتحادیه اروپا نیستند. این اولین بار نیست که چت‌بات‌ها در اروپا توسط فعالان یا محققان مورد انتقاد قرار می‌گیرند.

در دسامبر ۲۰۲۳، یک مطالعه نشان داد که چت‌بات AI بینگ مایکروسافت، که به Copilot تغییر نام داد، اطلاعات گمراه‌کننده یا نادرستی در مورد انتخابات محلی در آلمان و سوئیس ارائه می‌داد. چت‌بات اطلاعات نادرستی در مورد اطلاعات نامزدها، نظرسنجی‌ها، رسوایی‌ها و رأی‌گیری ارائه می‌داد و منابع خود را به اشتباه نقل می‌کرد.

مورد دیگری نیز با چت‌بات AI جمینی گوگل دیده شد که تصاویر نادرست را در تولیدکننده تصاویر خود ارائه می‌داد. گوگل برای این حادثه عذرخواهی کرد و اعلام کرد که مدل خود را آپدیت خواهد کرد.