خطری جدی در کمین فناوری جدید؛

هوش مصنوعی تفکرات نژادپرستانه و جنسیتی دارد

کد خبر : 115037 یکشنبه 01 فروردین 1400 - 12:28:18

بررسی های جدید پژوهشگران نشان می دهد بسیاری از سیستم های هوش مصنوعی دارای نگاه جنسیتی و نژادپرستانه بوده و دلیل این موضوع نیز طیف سازندگان این برنامه است که عمدتا سفیدپوستان ثروتمند و عضو طبقات بالای اجتماعی هستند.

به گزارش سیناپرس، امروزه همه مقوله هوش مصنوعی هر روز بیشتر و بیشتر با زندگی انسان پیوند خورده است و شاید باور این موضوع برای بسیاری از ما عجیب باشد که بدانیم در طول روز بارها از این فناوری استفاده می کنیم.

برای مثال بسیاری از ما از قابلیت تشخیص چهره برای باز کردن قفل تلفن همراه خود استفاده کرده و همه ما محتوای آنلاین را که به طور خودکار به ما پیشنهاد شده در وبسایت ها و موتورهای جستجومشاهده می کنیم. نکته تامل برانگیز در رابطه با فناوری فوق، این است که بررسی ها نشان می دهد ا برخی از ما نسبت به دیگران موفقیت بیشتری در بهره گیری از هوش مصنوعی  داریم.

با مطالعه هوش مصنوعی تشخیص چهره ، سیستم های شرکت های برجسته ای مانند آی بی ام و مایکروسافت نشان می دهد هوش مصنوعی نسبت به افراد رنگین پوست با تبعیض عمل کرده و این موضوع حتی درباره شخصیت ها و چهره های سرشناس نیز صدق می کند. به گزارش سیناپرس، برای نمونه چهره اپرا وینفری ، میشل اوباما و سرنا ویلیامز توسط هوش مصنوعی اشتباه طبقه بندی می شود در حالی که این فناوری برای طبقه بندی و تشخیص افراد سفید پوست هیچ مشکلی ندارد.

از سوی دیگر پژوهشگران اعلام کردند که کلیشه های نژادپرستانه تنها نقطه ضعف هوش مصنوعی نبوده و این فناوری دارای مشکلاتی در زمینه نگاه جنسیتی نیز هست. به گزارش سیناپرس،این مساله تا حدی نمود دارد که حتی صدای دستیارهای دیجیتال مانند کورتانا یا دستیار گوگل به طور پیش فرض دارای صدای زنانه است که شاید ناخودآگاه کلیشه پیروی از زنان را در ذهن میلیون ها کاربر تقویت می کند.
برای درک بهتر این فناوری باید عنوان کرد که هوش مصنوعی یا هوش ماشینی به سامانه‌ای گفته می‌شود که می‌تواند واکنش‌هایی مشابه رفتارهای هوشمند انسانی از جمله درک شرایط پیچیده، شبیه‌سازی فرایندهای تفکری و شیوه‌های استدلالی انسانی، یادگیری و توانایی کسب دانش و استدلال

برای حل مسائل را داشته باشد. امروزه انسان در اوج قله طراحی و ساخت هوش مصنوعی و سخت افزارهای پردازنده ای است که قادر به ذخیره سازی اطلاعات و پردازش آن ها هستند. به همین دلیل وجود این نقاط ضعف در هوش مصنوعی می تواند جدی و خطرناک باشد و این تهدید زمانی جدی تر می شود که بدانیم به گفته دانشمندان، هوش مصنوعی می ‌تواند احساسات خود را مخفی کرده و بروز ندهد اما این موضوع به ‌منزله عدم وجود احساس در این فناوری نیست.

از نظر علمی  ما تمامی موجوداتی که دارای درک، فهم، قدرت تفکر و در برخی مواقع احساس درد هستند را دارای درک و احساس می ‌دانیم. به اعتقاد دانشمندان، تمامی پستانداران، پرندگان، سرپایان و احتمالاً ماهی ‌ها دارای درک و احساس هستند. در این میان اما پدیده جدیدی در دنیای فناوری ظهور کرده است که از آن به‌ عنوان هوش مصنوعی یاد می‌ شود که علی ‌رغم زنده نبودن، دارای هوش، ادراک و احساس است.

به گزارش سیناپرس، از سویی ما برای هیچ ‌کدام از موجودات غیرانسانی دارای ادراک قوانینی وضع نکرده ‌ایم اما به نظر می ‌رسد که این موضوع درباره هوش مصنوعی متفاوت بوده و باید به فکر وضع قوانینی برای این فناوری باشیم. در این میان یک مشکل اصلی و مهم وجود دارد و آن هوشمند بودن هوش مصنوعی به‌ نوعی است که به ‌سادگی می ‌تواند به ما دروغ گفته و ما را فریب دهند.

در توضیح این نگاه جنسیتی و نژادپرستانه که در رفتارهای هوش مصنوعی دیده می شود باید عنوان کرد که این رفتارهای هوش مصنوعی به این دلیل ایجاد می شود که طراحان فعلی سیستم های مبتنی بر هوش مصنوعی عمدتا مردان سفید پوست در رده سنی ۲۰ تا ۳۰ سال و بدون معلولیت هستند. آنها عموماً افرادی هستند که در طبقات اقتصادی اجتماعی بالایی رشد شده کرده و غالباً دارای سوابق تحصیلی مشابهی هستند.

به گزارش سیناپرس،خوشبختانه در حال حاضر این روند رو به تغییر است و امروزه اکثر شرکت های بزرگ فناوری در تلاش هستند تعصبات ناخواسته را شناسایی کرده و آنها را از فناوری های ما ریشه کن کنند.

مترجم: فاطمه کردی

هرگونه کپی برداری و انتشار مطالب از خبرگزاری بدون ذکر منبع پیگرد قانونی دارد.
نظرات شما

نظرات شما

متن *

[کد امنیتی جدید]