گوگل، خالق Bard، به کارکنان در مورد خطرات چت بات ها هشدار می دهد

آلفابت همچنین به مهندسان خود گفته است که از استفاده مستقیم از کدهایی که چت بات ها تولید می کنند اجتناب کنند. هنگامی که از شرکت پرسیده شد که چرا، Bard می تواند کدهای نامطلوب را پیشنهاد کند، اما همچنان به برنامه نویسان کمک می کند. گوگل همچنین گفت که قصد دارد در مورد محدودیت های فناوری خود شفاف باشد.

در این هفته خبرهای بد دیگری برای بارد وجود داشت که مشخص شد گوگل به دلیل نگرانی های مربوط به حفظ حریم خصوصی، هنوز چت بات را در اروپا راه اندازی نمی کند.



منبع

سامسونگ در ماه مه استفاده از ChatGPT را پس از سه حادثه وارد کردن داده‌های حساس به این سرویس توسط مهندسان کارخانه نیمه‌رسانای خود ممنوع کرد. آمازون کارمندان خود را از اشتراک گذاری کد یا اطلاعات محرمانه با چت بات منع کرده است و اپل آن را به طور کامل ممنوع کرده است. حتی سازنده آن، OpenAI، به کاربران توصیه می کند که مراقب آنچه که در اعلان تایپ می کنند، باشند.

از زمانی که ChatGPT در اوایل سال جاری در معرض دید عموم قرار گرفت، هشدارهایی درباره عدم اشتراک گذاری بیش از حد با هوش مصنوعی مولد وجود دارد. NCSC، بخشی از آژانس اطلاعاتی GCHQ بریتانیا، گفت که سؤالات حساس کاربر، مانند سؤالات سلامت یا اطلاعات محرمانه شرکت، برای ارائه‌دهنده قابل مشاهده است و ممکن است برای آموزش نسخه‌های آتی چت‌بات‌ها استفاده شود.

یک گزارش رویترز به نقل از چهار نفر از آشنایان با این موضوع بیان می کند که آلفابت به کارکنان خود توصیه کرده است که اطلاعات محرمانه را در چت ربات های هوش مصنوعی وارد نکنند.

بخونید:  محموله های مادربرد در سال 2022 مخزن شد

بارد تاکنون زندگی آرامی نداشته است. آن را با ایجاد پاسخ اشتباه در اولین نسخه نمایشی خود در ماه فوریه شروع کرد. چند ماه بعد، شنیدیم که طبق گزارش‌ها، کارمندان گوگل به شرکت گفته‌اند که چت‌بات را راه‌اندازی نکند و آن را یک «دروغ‌گوی آسیب‌شناس»، «ارزش خشمگین» و «بدتر از بی‌فایده» خواندند.

علاوه بر اینکه بازبینی‌کنندگان انسانی داده‌های حساسی را که کاربران وارد کرده‌اند را می‌خوانند، خطر افشای این اطلاعات در نشت یا هک داده‌ها نیز وجود دارد. در ماه مارس، OpenAI ویژگی تاریخچه چت ChatGPT را به طور موقت آفلاین کرد، زیرا یک اشکال در این سرویس باعث شد که عناوین مکالمات سایر کاربران در نوار کناری تاریخچه کاربر در سمت چپ صفحه وب ظاهر شود.

کف دست: در چیزی که احتمالاً برای بقیه ما باید یک پرچم قرمز باشد، آلفابت مادر گوگل به همه کارمندان خود هشدار می دهد که هنگام استفاده از چت ربات های هوش مصنوعی، حتی Bard خود، محتاط باشند. این شرکت همچنین به مهندسان خود گفته است که از استفاده مستقیم از کدهای تولید شده توسط این خدمات خودداری کنند.

علیرغم محدودیت‌ها، یک نظرسنجی اخیر از 12000 متخصص نشان داد که 43 درصد از آنها گفته‌اند که از ابزارهای هوش مصنوعی مانند ChatGPT برای کارهای مربوط به کار استفاده می‌کنند، که یک سوم آنها این کار را بدون اطلاع رئیس خود انجام می‌دهند.