کمک هوش مصنوعی موزیلا اسناد وب را با توهمات GPT آلوده می کند

موزیلا اخیراً AI Help را معرفی کرد، ابزاری مبتنی بر هوش مصنوعی که به‌منظور تبدیل شدن به یک «همراه حل مشکل» جدید برای توسعه‌دهندگان وب که در جستجوی پاسخ در MDN Web Docs هستند، طراحی شده است. این سایت از سال 2005 میزبان اسنادی در مورد CSS، HTML، جاوا اسکریپت و سایر فناوری‌های وب است و اساساً با مشارکت داوطلبان، شرکت‌های بزرگی مانند مایکروسافت و گوگل و البته اسناد موزیلا نیز به یک منبع معتبر تبدیل شده است.

بسیاری از توسعه دهندگان در این بحث تراشه کردند و AI Help را به عنوان معجون “روغن مار” توصیف کردند که به دلایلی که Eevee و سپس برخی توصیف کردند “بدتر از بی فایده است”.

sideshowbarker خاطرنشان کرد: این ویژگی جدید هوش مصنوعی یک “ایده بسیار بد” است، و او قول داد که شخصاً موضوع را در داخل موزیلا “تا جایی که می توانم” تشدید کند، با هدف حذف آن “کاملاً در اسرع وقت”. دکمه Help AI اکنون متوقف شده است و دیگر در دسترس نخواهد بود – حداقل فعلا.



منبع

موزیلا در مورد معرفی کمک هوش مصنوعی درخواست بازخورد داشت و توسعه‌دهندگان انبوه پاسخ دادند.

همانطور که همه و سگشان تاکنون می‌دانند، هوش مصنوعی مولد نباید منبع قابل اعتمادی از اطلاعات در نظر گرفته شود. این الگوریتم هوش و آگاهی ندارد و فقط کلمات را کنار هم قرار می دهد تا بهترین پاسخ را از نظر آماری به درخواست های متنی کاربران بیابد.

یک مشکل GitHub که برای Yari باز شده است، که کد پلتفرمی است که سرویس MDN را تامین می کند، به وضوح وضعیت متأسفانه این ویژگی “AI Help” را در حال حاضر به تصویر می کشد. «ایوی»، توسعه‌دهنده‌ای که این موضوع را باز کرد، ویژگی هوش مصنوعی مولد را به عنوان یک «تصمیم عجیب» برای یک مرجع فنی توصیف می‌کند که در آن پاسخ‌های شبیه به انسان «ممکن است تصادفاً درست باشند یا حاوی دروغ‌های متقاعدکننده باشند».

بخونید:  Clearview AI (دوباره) به دلیل نقض GDPR با فناوری تشخیص چهره جریمه شد

با مطالعه موضوع Yari، به این ایده می رسید که به نظر می رسد هیچ کس، مطلقاً هیچ کس از ایده الگوریتم هوش مصنوعی مولد که به سؤالات مربوط به اسناد واقعی وب پاسخ می دهد، خوشش نمی آید. در پایان، یک نگهدارنده اصلی MDN به نام “sideshowbarker” گفت که به نظر می رسد AI Help چیزی است که موزیلا تصمیم گرفته است به تنهایی “بدون هیچ گونه سرکشی” به سایر ذینفعان MDN انجام دهد.

خوش‌خیم‌ترین نظرات می‌گفتند که ویژگی کمک به هوش مصنوعی احتمالاً “خیلی بیشتر از آنچه که ممکن است کمک کند” آسیب می‌زند، در حالی که سایر توسعه‌دهندگان کمتر دلسوز به سرعت این ویژگی را به‌عنوان افزوده‌ای “عمقاً گمراه‌شده” که باعث ایجاد اطلاعات نادرست در مقیاس می‌شود رد کردند. – “مانند سایر برنامه های LLM.”

به گفته مدیر MDN Hermina Condei، AI Help برای بهینه سازی فرآیندهای جستجوی توسعه دهندگان طراحی شده است و یافتن اطلاعات مورد نیاز آنها را “سریع و آسان” می کند. AI Help از API OpenAI برای تغذیه کاربران به ChatGPT استفاده می کند و هوش مصنوعی مولد باید “مرتبط ترین اطلاعات” را از مخزن اسناد جامع MDN بازیابی کند.

کف دست: MDN Web Docs که قبلاً به عنوان شبکه توسعه دهنده موزیلا شناخته می شد، یک مخزن اسناد است که منابع یادگیری را برای توسعه دهندگان وب فراهم می کند. این سایت در تلاش است تا منبع قابل اعتمادی از اطلاعات «برای توسعه‌دهندگان توسط توسعه‌دهندگان» باشد، اما موزیلا اکنون تصمیم گرفته است آن را به الگوریتم‌های هوش مصنوعی مولد تغذیه کند – و توسعه‌دهندگان کوچک‌ترین راضی نیستند.

بخونید:  اخترشناسان یک کوتوله سفید نسبتا نزدیک را پیدا کردند که به یک الماس غول پیکر متبلور می شد

از سال 2017، پس از اینکه این شرکت کره ای تصمیم گرفت پروژه های مستندسازی خود را تعطیل کند، سرویس MDN نیز میزبان تمام اسناد وب سامسونگ است. نیازی به گفتن نیست، زمانی که موزیلا تصمیم می‌گیرد افزودنی بزرگ و غیرمنتظره را به MDN بیاورد، توسعه‌دهندگان می‌توانند به روش‌های غیرقابل پیش‌بینی و پرشور واکنش نشان دهند.