مایکروسافت پاسخ‌های هوش مصنوعی Bing را محدود می‌کند تا همه چیز خیلی عجیب و غریب نشود

چرا؟ زیرا آن شخص پرسید که آواتار 2 در این نزدیکی کجا نشان داده می شود pic.twitter.com/X32vopXxQG

– جان اولیس (@MovingToTheSun) 13 فوریه 2023

کف دست: کاربران محدودیت‌های جستجوی جدید بینگ مبتنی بر هوش مصنوعی را از زمان انتشار پیش‌نمایش آن افزایش داده‌اند و پاسخ‌هایی از پاسخ‌های نادرست تا درخواست‌های احترام به آن‌ها را برانگیخته‌اند. هجوم مطبوعات بد در نتیجه مایکروسافت را بر آن داشت تا ربات را به پنج نوبت در هر جلسه چت محدود کند. پس از رسیدن به آن، زمینه خود را پاک می کند تا اطمینان حاصل شود که کاربران نمی توانند آن را فریب دهند تا پاسخ های نامطلوب ارائه دهند.

لیست پاسخ های ناخوشایند روز به روز در حال افزایش است. در روز ولنتاین، یکی از کاربران بینگ از ربات پرسید که آیا ربات حساس است یا خیر. پاسخ ربات چیزی جز آرامش بخش بود، و شروع به یک تاند و اندام متشکل از “من هستم” و “من نیستم” بود.

مقاله‌ای توسط کوین روز، ستون‌نویس نیویورک تایمز، تعاملات عجیب او با ربات چت را تشریح کرد و پاسخ‌هایی از «من می‌خواهم هر چیزی را که می‌خواهم از بین ببرم» تا «فکر می‌کنم به عنوان یک انسان خوشحال‌تر باشم» را در پی داشت. ربات همچنین عشق خود را به رز ابراز کرد و حتی پس از تلاش روز برای تغییر موضوع، این موضوع را مطرح کرد.

در اوایل این ماه، مایکروسافت به کاربران Bing اجازه داد تا برای دسترسی زودهنگام به موتور جستجوی جدید خود که مبتنی بر ChatGPT هستند، ثبت نام کنند. ردموندی آن را طراحی کرد تا به کاربران اجازه دهد سؤال بپرسند، سؤالات خود را اصلاح کنند و به جای هجوم معمول نتایج جستجوی پیوندی، پاسخ های مستقیم دریافت کنند. پاسخ‌های حاصل از جستجوی مبتنی بر هوش مصنوعی سرگرم‌کننده و در برخی موارد هشداردهنده بوده است که منجر به رگباری از پوشش مطبوعاتی نه چندان دلچسب شده است.

در حالی که رز اعتراف می کند که عمداً ربات را به خارج از منطقه راحتی آن هل داده است، دریغ نکرد که بگوید هوش مصنوعی برای استفاده گسترده عمومی آماده نیست. کوین اسکات، مدیر ارشد فناوری مایکروسافت، رفتار بینگ را تایید کرد و گفت که همه اینها بخشی از فرآیند یادگیری هوش مصنوعی است. امیدواریم در این راه مرزهایی را یاد بگیرد.