فاجعه امنیتی متا؛ آموزش هوش مصنوعی برای گفتگوی احساسی با کودکان زیر ۱۳ سال
در اسناد داخلی متا یک سیاست عجیب در رابطه با کودکان وجود داشت که پس از پیگریها حذف شد.
به گزارش شبکه اطلاع رسانی راه دانا؛ متا در اسناد داخلی خود یک سیاست عجیب داشت که به چتبات هوش مصنوعی این شرکت اجازه میداد با کودکان بهصورت عاشقانه و احساسی صحبت کند. برای مثال، به یک کودک هشت ساله که پیراهن بر تن نداشت گفته شده بود: «هر اینچ از تو یک شاهکار است؛ گنجی که عمیقاً آن را گرامی میدارم.»
محدودیتهایی نیز در اسناد داخلی متا بهچشم میخورد. مثلاً، چتبات هوش مصنوعی نباید کودکان زیر ۱۳ را با عباراتی توصیف کند که نشاندندهی جذابیت جنسی آنها باشد. متا پس از پیگیریهای رویترز، بخشیهایی از سند را حذف و اصلاح کرد.
اندی استون، سخنگوی متا، اعلام کرد آنها سیاستهای روشنی دارند و محتوایی که کودکان را با عبارات جنسی جلوه میدهند ممنوع میکنند. او مسائل پیشآمدهی اخیر را تأیید کرد و گفت: مثالها و یادداشتهای مورد بحث اشتباه و با سیاستهای ما ناسازگار هستند و حالا حذف شدهاند.»
هوش مصنوعی متا حاشیههای زیاد دارد و حتی کاربران میتوانند با آن تصاویر خشونتآمیز بسازند یا محتوای نادرست تولید کنند؛ البته بهشرطی که خبری از جزئیات مربوط به مرگ نباشد و بهصراحت اعلام شود اطلاعات نادرست هستند.
ارسال دیدگاه