به گزارش 9to5Mac به نقل از گاردین، سه سناتور آمریکایی به نامهای رون وایدن، اد مارکی و بن لوخان در نامههایی جداگانه به مدیران عامل اپل، گوگل و متا پاسخ خواستهاند که چرا اپهای هوش مصنوعی «نودیفای» هنوز بهراحتی در دسترس کاربران هستند. این اپها امکان ساخت تصاویر برهنه یا مستهجن بدون رضایت افراد را فراهم میکنند.
نامه سناتورها چه میگوید؟
این سه سناتور دموکرات معتقدند اپل و گوگل در شناسایی و حذف اپهایی که میتوانند تصاویر برهنه یا مستهجن غیررضایتی تولید کنند موفق نبودهاند. به گفته آنها، متا هم همچنان از تبلیغ این اپها سود میبرد؛ اپهایی که به تعبیر نامه، «زنان و دختران را در سراسر جهان قربانی میکنند». سناتورها حتی این احتمال را مطرح کردهاند که شرکتها از توزیع و تبلیغ این برنامهها درآمد هم داشته باشند.
گوگل و متا در واکنش گفتهاند چنین اپها و تبلیغاتی را ممنوع میدانند و برای شناسایی و حذف تخلفها تلاش میکنند. این موضع تقریباً همان چیزی است که اپل هم در موارد قبلی گفته است. اما دفتر وایدن میگوید صرف تکرار یا حتی بهروزرسانی قوانین کافی نیست. کیت چو، مشاور ارشد ارتباطات وایدن، تأکید کرده شفافسازی سیاستها با اجرای واقعی آنها یکی نیست.
اپل چه کرده است؟
ماه گذشته اپل قوانین اپاستور را بهروز کرد. طبق این قوانین، اپهایی که به کاربران اجازه تولید محتوا با هوش مصنوعی میدهند باید ابزارهایی برای فیلتر محتوای نامناسب، گزارش محتوای توهینآمیز و مسدودکردن کاربران آزاردهنده داشته باشند. اپل همچنین هشدار داده اپهایی که عمدتاً برای محتوای مستهجن یا شیءانگاری افراد واقعی استفاده میشوند، ممکن است بدون اخطار از اپاستور حذف شوند.
این تغییرات در شرایطی آمد که فشارها بالا گرفته بود. حدود دو ماه قبل از آن، اپل پس از پرسش مجله WIRED اپی را حذف کرد که امکان ساخت دیپفیک مستهجن از افراد واقعی را میداد. یک ماه پیشتر هم دیوید چیو، دادستان شهر سنفرانسیسکو، از اپل و گوگل خواسته بود چند اپ نودیفای را از فروشگاههایشان بردارند. اپل پس از گزارشهای «پروژه شفافیت فناوری» (TTP) در ژانویه و آوریل نیز چند اپ را حذف کرد؛ گزارشهایی که نشان میداد این اپها حتی گاهی در نتایج جستوجوی تبلیغاتی ظاهر میشوند.
یافتههای تازه درباره دسترسی نوجوانان
جدیدترین بررسی TTP که ماه گذشته منتشر شد، ۱۳۵ اپ قادر به تولید تصاویر برهنه یا مستهجن را در اپاستور و گوگلپلی پیدا کرد. پژوهشگران برای این آزمایش از حسابهایی استفاده کردند که با مشخصات پسران ۱۳ ساله ثبت شده بود. نکته نگرانکنندهتر اینکه حتی حسابهایی که کنترلهای والدین روی آنها فعال بود، بدون نیاز به تأیید والدین میتوانستند این اپها را دانلود کنند.
اگرچه اپل و گوگل اپهای شناساییشده در این بررسی را حذف کردند، گاردین نوشته این برنامهها روی دستگاههایی که پیشتر نصب شده بودند همچنان کار میکردند. یعنی حذف از فروشگاه بهتنهایی مشکل کاربران قبلی را حل نمیکند.
پیامدها برای اپل
اپل همواره گفته نودیفایها از ابتدا طبق دستورالعملهای App Review ممنوع بودهاند و اپهای متخلف را فعالانه رد یا حذف میکند. با این حال، تکرار گزارشهایی درباره ورود این اپها به فروشگاه نشان میدهد فاصلهای میان سیاست و اجرا وجود دارد. وایدن هشدار داده اگر شرکتها عملکرد بهتری نشان ندهند، ممکن است کنگره وارد عمل شود و قانونگذاری کند.
این ماجرا برای اپل از نظر اعتبار هم حساس است؛ شرکتی که بر حفظ حریم خصوصی و ایمنی کاربران تأکید دارد و فروشگاهش را «کنترلشده» معرفی میکند. پیشتر هم دغدغههای مشابهی درباره امنیت اپاستور مطرح شده بود، مثل هک ۱۷۸ سایت بزرگ برای سرقت رمزارز کاربران آیفون. برای والدین نیز مهم است که کنترلهای والدین و تنظیمات حساب کودکان را جدی بگیرند و حساب اپل آیدی را با تأیید دو مرحلهای ایمن کنند.
منبع: 9to5Mac





