گوگل پس از اینکه تصاویر پزشکی را به عنوان کودک آزاری علامت گذاری کرد، از بازگرداندن حساب خودداری کرد

یک سیب زمینی داغ: در حالی که تعداد فزاینده‌ای از تدابیر حفاظتی توسط سرویس‌های آنلاین استفاده می‌شود که تصاویر کودک آزاری را شناسایی و پرچم‌گذاری می‌کنند، این سیستم‌ها خطاناپذیر نیستند و می‌توانند تأثیر مخربی بر متهمان اشتباه داشته باشند. پدری که پس از اینکه این شرکت به اشتباه تصاویر پزشکی کشاله ران پسر نوپاش را به عنوان پورن کودک علامت گذاری کرد، هنوز حساب گوگل بسته است.

مارک به عنوان یک مهندس نرم‌افزار سابق که روی ابزارهای هوش مصنوعی مشابه برای شناسایی محتوای مشکل‌ساز کار کرده بود، تصور می‌کرد وقتی یک ناظر محتوای انسانی عکس‌ها را بازبینی کند، همه چیز پاک می‌شود.

لیلی افزود که بررسی بیشتر حساب مارک، ویدئویی را از شش ماه قبل نشان داد که کودکی را در رختخواب با زنی بی‌لباس نشان می‌داد. مارک می گوید که نمی تواند ویدیو را به خاطر بیاورد و هنوز به آن دسترسی ندارد.

اما مارک در ماه دسامبر توسط اداره پلیس سانفرانسیسکو به دلیل “ویدیوهای استثمار کودکان” مورد بازرسی قرار گرفت. او از هرگونه جرمی پاک شد، با این حال گوگل هنوز حساب های خود را بازنگردانده است و می گوید که بر تصمیم خود ایستاده است.

ما برنده هستیم

کریستا مولدون، سخنگوی گوگل گفت: «ما در تعریف CSAM از قوانین ایالات متحده پیروی می کنیم و از ترکیبی از فناوری تطبیق هش و هوش مصنوعی برای شناسایی و حذف آن از پلتفرم های خود استفاده می کنیم.

کلر لیلی، رئیس بخش عملیات ایمنی کودکان گوگل، گفت که بازبین‌ها بثورات یا قرمزی در عکس‌های مارک شناسایی نکرده‌اند. کارکنان Google که CSAM را بررسی می‌کنند توسط متخصصان اطفال آموزش دیده‌اند تا به دنبال مسائلی مانند جوش‌های پوستی باشند، اما در این موارد با متخصصان پزشکی مشورت نمی‌شود.

بر اساس گزارش نیویورک تایمز، پدر، مارک، در فوریه سال گذشته به توصیه یک پرستار قبل از قرار ملاقات ویدیویی با پزشک، این عکس ها را گرفت. همسر مارک از تلفن اندرویدی شوهرش برای گرفتن عکس از ناحیه تناسلی متورم پسر استفاده کرد و آنها را به آیفون خود پیامک کرد تا در سیستم پیام رسانی ارائه دهنده خدمات بهداشتی بارگذاری شود. دکتر آنتی بیوتیک تجویز کرد، اما این پایان کار نبود.

با حسن نیت از مایکروسافت

به نظر می‌رسد که تصاویر به‌طور خودکار در Google Photos پشتیبان‌گیری شده‌اند، در این مرحله ابزار هوش مصنوعی این شرکت و PhotoDNA مایکروسافت آن‌ها را به‌عنوان مواد آزار جنسی کودکان (CSAM) علامت‌گذاری کردند. مارک دو روز بعد اعلانی دریافت کرد که به او اطلاع می‌داد حساب‌های Google او، از جمله سرویس تلفن Gmail و Google Fi، به دلیل «محتوای مضر» قفل شده‌اند که «نقض شدید خط‌مشی‌های Google و ممکن است غیرقانونی باشد».

بخونید:  بانک مرکزی اروپا می گوید بیت کوین "دست و پاگیر، کند و گران" در مسیر "بی ربطی" است.