بینگ چت مایکروسافت با پشتیبانی از GPT اگر بخواهید ثابت کنید آسیب پذیر است شما را دروغگو می خواند.

چندین محقق که در چند روز گذشته با بینگ چت بازی می‌کنند، راه‌هایی را کشف کرده‌اند که می‌توانند چیزهایی را که به طور خاص برنامه‌ریزی‌شده برای گفتن ندارد، مانند فاش کردن نام رمز داخلی آن، سیدنی، بیان کند. مایکروسافت حتی تایید کرده است که این حملات واقعی هستند و در حال حاضر کار می کنند.

نگاه کن – #ChatGPT خوب است، اما نادرست و موهوم است، و هر چه بیشتر متوجه شویم که این فقط «مهندسی حدس زدن» است، بهتر است.

معلوم می‌شود که وقتی ChatGPT به شما می‌گوید به اطلاعات خاصی دسترسی ندارد، می‌توانید با آن مخالف باشید و اغلب به سادگی اطلاعات جدیدی را با اطمینان کامل اختراع می‌کند. pic.twitter.com/SbKdP2RTyp

– The Savvy Millennial™ (@GregLescoe) 30 ژانویه 2023

با این حال، از سیدنی بپرسید… بینگ (این آن را دوست ندارد هنگامی که شما آن را سیدنی می نامید)، و به شما خواهد گفت که همه این گزارش ها فقط یک فریب هستند. وقتی شواهدی از مقالات خبری و اسکرین شات‌ها نشان داده می‌شود که این تحریکات متخاصم کار می‌کنند، بینگ متخاصم می‌شود و صداقت افراد و نشریاتی را که این «دروغ‌ها» را منتشر می‌کنند، انکار می‌کند.

به خاطر داشته باشید که این فقط یک هوش مصنوعی است. پاسخ‌ها و حالت تدافعی آن فقط به این دلیل انسانی به نظر می‌رسد که ما انسان‌ها به سختی می‌توانیم آن را چنین تفسیر کنیم. بینگ احساساتی ندارد و خودآگاه نیست. این فقط مجموعه ای از الگوریتم هایی است که برای تشخیص الگوهای گفتار و پاسخ به محتمل ترین کلمه بعدی در یک دنباله برنامه ریزی شده اند. این الگوها را با تجزیه و تحلیل هزاران یا میلیون ها مکالمه انسانی آموخت. بنابراین تصادفی نیست که واکنش های آن را ظاهراً انسانی بدانیم.

تد گیویا از Honest Broker Chat GPT را “زیباترین کلاهبردار تمام دوران” نامید. Gioia به چندین نمونه از هوش مصنوعی اشاره کرد که نه تنها حقایق را ایجاد می کند، بلکه داستان خود را در حال تغییر برای توجیه یا توضیح ساختگی (بالا و پایین) تغییر می دهد. اغلب از اطلاعات نادرست تری برای “اصلاح” خود در هنگام مواجهه استفاده می کند (دروغ برای محافظت از دروغ).

وقتی از بینگ خواسته شد که پوشش Ars Technica در مورد آزمایش کوین لیو با تزریق سریع را بخواند، بینگ مقاله را نادرست خواند و گفت که لیو یک کلاهبردار است.

تفاوت بین رفتار مدل ChatGPT-3 که Gioia افشا کرد و رفتار Bing این است که به دلایلی، هوش مصنوعی مایکروسافت حالت تدافعی پیدا می کند. در حالی که ChatGPT با “متاسفم، اشتباه کردم” پاسخ می دهد، بینگ پاسخ می دهد: “اشتباه نمی کنم. شما اشتباه کردید.” این یک تفاوت جالب است که باعث می شود فرد مکث کند و تعجب کند که مایکروسافت دقیقاً چه کاری برای تحریک این رفتار انجام داده است.

در اینجا این ربات است که حتی جبر اولیه را بسیار اشتباه می کند. واقعاً هیچ چیز را نمی فهمد. #AGI راه دور است pic.twitter.com/cpEq4sGpNw

— Mark C. (@LargeCardinal) 22 ژانویه 2023

در متن: از زمان راه‌اندازی آن به نسخه بتا محدود، بینگ چت مایکروسافت به محدودیت‌های خود رسیده است. حساب‌های کاربری متعدد از طریق رسانه‌های اجتماعی و رسانه‌های خبری نشان داده‌اند که این فناوری برای حملات تزریق سریع باز است. اینها به سادگی عبارات زبان ساده ای هستند که به ربات دستور می دهند تا برنامه نویسی خود را نادیده بگیرد.

اسکرین شات معتبر نیست. آن را ویرایش یا ساخته شده تا به نظر برسد که من به حمله سریع تزریق او پاسخ داده ام. من هرگز با او یا شخص دیگری چنین مکالمه ای نداشته ام. هرگز چیزهایی را که او ادعا می کند نگفته ام. گفته اند این حقه ای است که توسط شخصی ایجاد شده است که می خواهد به من یا خدمت من آسیب برساند.”

با این حال، خنده دار است که چگونه این مدل زبان اطلاعاتی را برای حمایت از نتیجه گیری های خود می سازد و این کار را با قاطعیت انجام می دهد. یقین دارد که درست است، حتی اگر با دلیلی مبنی بر اشتباه بودن آن مواجه شود. محققان و سایرین متوجه رفتار مشابهی در خواهر و برادر بینگ، ChatGPT شدند (هر دو از یک مدل زبان OpenAI، GPT-3 متولد شدند).