ChatGPT به دلیل ساختن پرونده ها و استنادات برای تشکیل پرونده در دادگاه فدرال وکیل منهتن مجرم شناخته شد.

همانطور که در این نوع شرایط قانونی انتظار می رفت، شرکت هواپیمایی از یک قاضی فدرال منهتن خواست تا پرونده را پرتاب کند، که شوارتز بلافاصله با آن مخالفت کرد. تا اینجای کار، به نظر می رسد یک تبادل معمولی در دادگاه باشد. یعنی تا زمانی که شوارتز، که مسلماً قبلاً هرگز از ChatGPT استفاده نکرده بود، به این نتیجه رسید که زمان آن رسیده است که به فناوری اجازه دهد صحبت کند.

زمانی که شوارتز با خطای قاضی پی کوین کاستل مواجه شد، پذیرفت که قصدی برای فریب دادگاه یا شرکت هواپیمایی نداشته است. او همچنین از اتکا به سرویس هوش مصنوعی ابراز پشیمانی کرد و اعتراف کرد که هرگز از ChatGPT استفاده نکرده است و “…از احتمال نادرست بودن محتوای آن بی اطلاع است.” با توجه به اظهارات شوارتز، او در یک نقطه تلاش کرد تا صحت استنادها را با پرسیدن از هوش مصنوعی که آیا موارد در واقع واقعی هستند، تأیید کند. به سادگی با “بله” پاسخ داد.

قاضی کاستل دستور داده است تا در 8 ژوئن جلسه بعدی برای بحث در مورد تحریم های احتمالی مربوط به اقدامات شوارتز برگزار شود. دستور کاستل موقعیت‌های جدید عجیب و غریب را به‌عنوان «وضعیت بی‌سابقه‌ای»، مملو از «تصمیمات قضایی جعلی، با نقل‌قول‌های جعلی و نقل‌قول‌های جعلی داخلی» به دقت نشان می‌دهد. و در یک پیچ ظالمانه از سرنوشت، پرونده شوارتز به خوبی می تواند به عنوان یکی از استنادات مورد استفاده در پرونده های قضایی آینده مرتبط با هوش مصنوعی خاتمه یابد.