کارشناسان همواره با اشاره به این موضوع که هوش مصنوعی فوایدی دارد، هشدار می‌دهند که این فناوری بستر سوءاستفاده و نقض حقوق بشر را فراهم می‌کند.
تاثیر هوش مصنوعی بر حقوق بشر چالش‌های جدیدی را به‌همراه دارد؛ حفظ حریم خصوصی و مبارزه با تبعیض زمینه‌های اولیه تمرکز بر این چالش‌ها است.
سیستم‌های هوش مصنوعی برای آموزش الگوریتم‌ها و ارتقای عملکرد به حجم عظیمی از داده‌ها ازجمله داده‌های شخصی حساس متکی هستند.
هوش مصنوعی همچنین برای پیش‌بینی‌ها و تصمیم‌گیری در مورد افراد استفاده می‌شود و این موضوع پرسش‌هایی را در مورد سوگیری الگوریتمی و اثر‌های تبعیض‌آمیز احتمالی ایجاد می‌کند.
سازمان ملل در سال ۲۰۲۴ با ۲ قطعنامه در مجمع عمومی اجماع نظر یافت که هوش مصنوعی بر حقوق بشر تاثیر می‌گذارد و هشدار داد که استفاده‌های خاصی از هوش مصنوعی با حقوق بشر ناسازگار است.
پیدایش عصر دیجیتال پیشرفت‌های زیادی را برای جامعه بشری به ارمغان آورده؛ اما اشکال جدیدی از آزار و اذیت و سوءاستفاده آنلاین را نیز فعال کرده است.
تصاویر مستهجن انتقام‌جویانه نوعی سوءاستفاده جنسیتی است که در آن تصاویر یا ویدیو‌های غیراخلاقی جنسی بدون رضایت افراد به اشتراک گذاشته می‌شود.
رواج تلفن‌های همراه و بستر‌های تولید محتوا برای کاربران، محتوای مستهجن انتقام‌جویانه را به یک پدیده رایج تبدیل کرده است.
درحالی که برخی قوانین برای مقابله با این تهدید فزاینده تصویب شده، اما فناوری به حدی تکامل یافته که بسیاری از این قوانین دیگر پاسخگوی چالش‌های محیط فعلی نیستند.
در سال گذشته، اهداف تصاویر مستهجن تولید‌شده با هوش مصنوعی از افراد مشهور در آمریکا مانند تیلور سوئیفت و الکساندریا اوکاسیو-کورتز، قانونگذار آمریکایی تا دختران دبیرستانی متفاوت بوده است.
یک کارشناس گفت: برای کسی که متوجه می‌شود خود یا فرزندش سوژه محتوای مستهجن دیپ‌فیک شده است، این تجربه معمولا ترسناک و طاقت‌فرسا است.
در همین حال، فناوری هوش مصنوعی ایجاد تصاویری را از کودکانی که هدف استثمار یا سوءاستفاده قرار می‌گیرند، چه واقعی و چه جعلی، بسیار ساده‌تر کرده است.
مقام‌های مجری قانون در کشور‌های غربی درحال آماده شدن برای انفجار محتوا‌های تولید شده به وسیله هوش مصنوعی هستند که به طور واقع‌بینانه کودکان را در حال استثمار جنسی به تصویر می‌کشد.
این موضوع چالش شناسایی قربانیان و مبارزه با چنین سوء‌استفاده‌هایی را عمیق‌تر می‌کند و باعث افزایش نگرانی‌ها درباره آزار جنسی کودکان می‌شود.
این نگرانی‌ها در حالی مطرح می‌شوند که رسانه اجتماعی متا، منبع اصلی در محتوای مربوط به آزار کودکان، ردیابی مجرمان را با رمزگذاری سرویس پیام‌رسانی دشوارتر کرده است.
این مشکل بر تعادل دشواری که شرکت‌های فناوری باید برای سنجش حقوق حریم خصوصی در برابر ایمنی کودکان ایجاد می‌کنند، تاکید می‌کند و چشمانداز تعقیب قضایی این نوع جنایت، پرسش‌های مهمی را مطرح می‌کند که آیا چنین تصاویری غیرقانونی هستند و چه نوع مشکلاتی ممکن است برای قربانیان وجود داشته باشد.
کارشناسان می‌گویند که این تصاویر تولید شده به وسیله هوش مصنوعی از تصاویر واقعی قابل تشخیص نیستند و تشخیص قربانی واقعی از یک قربانی جعلی را سخت‌تر می‌کند.
بی‌پی‌ای‌اس ژورنال نوشت که دیپ‌فیک تهدیدی جدی برای امنیت و آزادی مردم در سراسر جهان است.
انتهای پیام/
