19 فروردین 1404
هوش مصنوعی بدون نقاب
«هوش مصنوعی بدون نقاب» با نامل کامل «هوش مصنوعی بدون نقاب: مأموریت من برای محافظت از انسانیت در جهانی ماشینی» اثری است از جوی بولاموینی (نویسنده‌ی آمریکایی – کانادایی، متولد ۱۹۹۰) که در سال ۲۰۲۳ منتشر شده است. این کتاب به بررسی تبعیض‌های نژادی، جنسیتی و اجتماعی در سیستم‌های هوش مصنوعی می‌پردازد و اهمیت ایجاد عدالت الگوریتمی در توسعه این فناوری‌ها را مورد تأکید قرار می‌دهد.
درباره‌ی هوش مصنوعی بدون نقاب
هوش مصنوعی، واژه‌ای که تا همین چند سال پیش تنها در رمان‌های علمی‌تخیلی و آزمایشگاه‌های تحقیقاتی شنیده می‌شد، امروز در متن زندگی روزمره ما تنیده شده است. از پیشنهادهای خرید و تشخیص چهره گرفته تا سیستم‌های استخدام و پیش‌بینی جرایم، این فناوری قدرتمند، نه‌تنها به ابزار بلکه به داور بسیاری از تصمیم‌های ما تبدیل شده است. اما پرسش مهم این است: آیا این هوش مصنوعی، واقعاً بی‌طرف و عادل است؟
کتاب هوش مصنوعی بدون نقاب (Unmasking AI: My Mission to Protect What Is Human in a World of Machines) اثری است جسورانه و انسانی از دکتر جوی بوالاموینی، پژوهشگر و فعال حوزه عدالت الگوریتمی، که با نگاهی انتقادی و مستند، پرده از تبعیض‌ها و تعصبات پنهان در دل فناوری‌های هوش مصنوعی برمی‌دارد. این کتاب نه فقط روایتی پژوهشی بلکه داستانی شخصی و اجتماعی از مقاومت در برابر غول‌های فناوری است.
دکتر بوالاموینی، که به‌درستی از سوی نشریه فورچون «وجدان انقلاب هوش مصنوعی» لقب گرفته، در این کتاب نشان می‌دهد که چگونه محصولات فناوری، برخلاف تصور رایج، بی‌طرف نیستند، بلکه بازتابی از تعصبات، نابرابری‌ها و دیدگاه‌های محدود سازندگان خود هستند. او مفهومی کلیدی به نام «نگاه کدگذاری‌شده» (coded gaze) را معرفی می‌کند که نشان‌دهنده تبعیض نهادینه‌شده در الگوریتم‌هاست.
داستان این کتاب از دوران نوجوانی بوالاموینی در ممفیس آمریکا آغاز می‌شود؛ زمانی که برای نخستین بار شیفته دنیای رباتیک شد. بعدها در زامبیا، به‌عنوان یکی از پژوهشگران برنامه فولبرایت، در حوزه توسعه اپلیکیشن‌های موبایل فعال شد و سرانجام مسیر او را به MIT و آزمایشگاه رسانه‌ای مشهورش، «کارخانه آینده»، رساند.
در همان‌جا بود که او با انجام پژوهش‌های دقیق و مبتکرانه، ضعف‌های فاجعه‌بار سیستم‌های تشخیص چهره را افشا کرد: این سیستم‌ها به‌طور چشمگیری در شناسایی چهره‌های زنان و افراد رنگین‌پوست دچار خطا بودند، در حالی که چهره مردان سفیدپوست را به‌درستی تشخیص می‌دادند. نتایج این تحقیقات، موجی جهانی از نقد و مطالبه برای عدالت در فناوری به راه انداخت.
اما هوش مصنوعی بدون نقاب تنها گزارشی از یک پژوهش دانشگاهی نیست. این کتاب، شرح تلاش‌های دکتر بوالاموینی در پایه‌گذاری «اتحادیه عدالت الگوریتمی» است؛ حرکتی اجتماعی برای جلوگیری از آسیب‌های ناشی از هوش مصنوعی و شفاف‌سازی عملکرد الگوریتم‌هایی که بدون نظارت عمومی در حال تصمیم‌سازی برای آینده‌اند.
کتاب با زبانی روشن و انسانی، لایه‌های مختلف ظلم سیستماتیک را در فضای فناوری برمی‌رسد: از نژادپرستی و تبعیض جنسیتی گرفته تا بی‌توجهی به معلولیت‌ها و رنگ پوست. او نشان می‌دهد چگونه گروه‌های بزرگی از انسان‌ها در دنیای الگوریتمی به حاشیه رانده می‌شوند؛ کسانی که او آن‌ها را «کسانی که از کد بیرون افتاده‌اند» (excoded) می‌نامد.
از نگاه بوالاموینی، مشکل فقط فناوری نیست، بلکه ساختارهای قدرتی هستند که فناوری را هدایت می‌کنند. غول‌های سودجوی فناوری، بدون پاسخگویی عمومی، الگوریتم‌هایی می‌سازند که پیامدهای عمیق اجتماعی دارند. او می‌نویسد که نبرد جدید برای حقوق مدنی، در مرزهای الگوریتمی شکل خواهد گرفت.
او بر این باور است که آینده‌ای عادلانه در گرو مشارکت همه‌جانبهٔ مردم در روند توسعه هوش مصنوعی است. فناوری نباید فقط برای نخبگان و شرکت‌های بزرگ باشد؛ باید «از سوی مردم و برای مردم» ساخته شود. این جمله محوری، پیام اصلی کتاب را خلاصه می‌کند: هوش مصنوعی باید در خدمت انسانیت باشد، نه علیه آن.
خواندن این کتاب تنها برای پژوهشگران یا فعالان فناوری نیست؛ بلکه برای هر فردی است که نگران آینده‌اش در جهانی رو به ماشینی شدن است. بوالاموینی در جای‌جای کتاب خواننده را دعوت می‌کند تا در این مبارزه برای شفافیت و عدالت، شریک شود.
کتاب هوش مصنوعی بدون نقاب با نثری صمیمی، ساختاری روایی، و ارجاع به تجربه‌های زیسته، هم برای متخصصان قابل تأمل است و هم برای خوانندگان عمومی قابل درک و الهام‌بخش. این اثر، نمونه‌ای درخشان از تلفیق علم، هنر و کنشگری اجتماعی است.
در روزگاری که بسیاری از کتاب‌ها دربارۀ هوش مصنوعی تنها به تحسین قدرت آن می‌پردازند، این کتاب ندایی است برای آگاهی، مسئولیت‌پذیری، و دفاع از کرامت انسان در برابر ماشین. اگر قرار باشد تنها یک کتاب دربارۀ هوش مصنوعی بخوانید، هوش مصنوعی بدون نقاب انتخابی ضروری و تأثیرگذار خواهد بود.
کتاب هوش مصنوعی بدون نقاب در وب‌سایت goodreads دارای امتیاز ۴.۱۴ با بیش از ۱۳۰۰ رای و ۱۶۵ نقد و نظر است.
خلاصه‌ی محتوای هوش مصنوعی بدون نقاب
کتاب هوش مصنوعی بدون نقاب نوشته دکتر جوی بوالاموینی، یک سفر عمیق به دنیای هوش مصنوعی و تأثیرات آن بر زندگی انسان‌ها است. در این کتاب، دکتر بوالاموینی با نگاهی منتقدانه، به بررسی مشکلات و خطرات ناشی از توسعه بی‌ضابطه و سودمحور این فناوری می‌پردازد. در ادامه، خلاصه‌ای از محتوای فصول و بخش‌های مختلف کتاب آورده شده است:
- فصل اول: آغاز مسیر: در این فصل، دکتر بوالاموینی از دوران نوجوانی خود در ممفیس، جایی که علاقه‌مند به رباتیک و فناوری‌های نوین شد، می‌گوید. او توضیح می‌دهد که چگونه تجربیات اولیه‌اش در زمینه مهندسی و فناوری به‌ویژه در زامبیا، به او کمک کرد تا به اهمیت عدالت در فناوری پی ببرد. این فصل، زمینه‌ساز درک مخاطب از مسیر تحول فکری نویسنده و علاقه او به هوش مصنوعی است.
- فصل دوم: کشف «نگاه کدگذاری‌شده»: دکتر بوالاموینی در این فصل به یک کشف مهم در تحقیقات خود در MIT اشاره می‌کند: مشکل عمده سیستم‌های تشخیص چهره. او توضیح می‌دهد که چگونه این سیستم‌ها، که در بسیاری از صنایع و دولت‌ها به‌کار گرفته می‌شوند، دچار تبعیض نژادی و جنسیتی هستند. وی این پدیده را «نگاه کدگذاری‌شده» نامید و توضیح می‌دهد که فناوری‌های موجود، نهادهای قدرت و پیش‌داوری‌های اجتماعی را بازتولید می‌کنند.
- فصل سوم: الگوریتم‌ها و تعصبات انسانی: در این فصل، نویسنده به‌طور جامع‌تر به بررسی نحوه ایجاد تعصبات در الگوریتم‌ها می‌پردازد. او نشان می‌دهد که اغلب توسعه‌دهندگان الگوریتم‌ها از پیش‌داوری‌های خود بی‌خبر هستند و همین بی‌توجهی منجر به شکل‌گیری سیستم‌های ناعادلانه می‌شود. بوالاموینی به‌طور خاص بر سیستم‌های شناسایی چهره و نظارت دولتی متمرکز می‌شود که بر اساس رنگ پوست و جنسیت خطاهایی جدی دارند.
- فصل چهارم: ایجاد «اتحادیه عدالت الگوریتمی»: دکتر بوالاموینی در این فصل به تجربه‌های خود در راه‌اندازی «اتحادیه عدالت الگوریتمی» (Algorithmic Justice League) می‌پردازد. این نهاد به‌طور خاص به مقابله با تعصبات نژادی و جنسیتی در الگوریتم‌ها و هوش مصنوعی پرداخته و هدف آن ارتقای شفافیت و پاسخگویی در فناوری‌های هوش مصنوعی است. وی در این فصل از چالش‌ها و موفقیت‌های این حرکت اجتماعی می‌گوید.
- فصل پنجم: تبعیض در صنعت فناوری: در این فصل، بوالاموینی به‌طور خاص به تبعیض‌های موجود در صنعت فناوری اشاره می‌کند. او توضیح می‌دهد که چگونه شرکت‌های بزرگ فناوری، که اغلب در پشت‌صحنه تصمیم‌گیری‌های جهانی قرار دارند، به‌طور ناخودآگاه یا حتی آگاهانه، قوانین ناعادلانه‌ای را به‌کار می‌برند که به ضرر گروه‌های خاص از جامعه است. این فصل تلاش دارد تا مخاطب را با ابعاد پیچیده‌تر تبعیض‌های پنهان در فناوری آشنا کند.
- فصل ششم: تداخل نژادپرستی و جنسیت در الگوریتم‌ها: یکی از محورهای اصلی این کتاب، بررسی تأثیرات تداخل نژادپرستی و جنسیت در توسعه و پیاده‌سازی هوش مصنوعی است. دکتر بوالاموینی در این فصل نشان می‌دهد که چگونه این دو عامل می‌توانند در کنار هم به تقویت نابرابری‌ها و نادیده‌گرفتن بخش‌های وسیعی از جامعه منجر شوند. او با ارائه مثال‌های خاص از سیستم‌های تشخیص چهره، به وضوح نشان می‌دهد که چگونه سیستم‌ها به‌طور ناخواسته به نفع گروه‌های خاص عمل می‌کنند.
- فصل هفتم: آینده‌ای با عدالت الگوریتمی: در این فصل، نویسنده به آینده هوش مصنوعی و اهمیت عدالت الگوریتمی می‌پردازد. او از ضرورت داشتن یک نظارت عمومی و قانونی بر توسعه هوش مصنوعی می‌گوید و به خوانندگان توصیه می‌کند که در فرآیند توسعه فناوری‌های نوین مشارکت داشته باشند. بوالاموینی به‌ویژه بر نقش سازمان‌های غیرانتفاعی و گروه‌های فعال در این زمینه تأکید می‌کند و نقش آن‌ها را در جلوگیری از آسیب‌های اجتماعی ناشی از فناوری‌های ناعادلانه بسیار حیاتی می‌داند.
- فصل هشتم: فراخوان به عمل: در فصل پایانی کتاب، دکتر بوالاموینی فراخوانی برای عمل به‌منظور ایجاد دنیای عادلانه‌تر در مواجهه با فناوری‌های هوش مصنوعی دارد. او از خوانندگان می‌خواهد که فراتر از مقالات و پژوهش‌ها به این موضوع فکر کنند و خود را به‌عنوان شهروندان فعال در جهت تغییرات اجتماعی مسئول بدانند. این فصل، که به‌نوعی خاتمه‌ای است بر کل کتاب، به امید و حرکت برای تغییر تاکید دارد.
کتاب هوش مصنوعی بدون نقاب در مجموع به بررسی مسائل پیچیده و چندبعدی فناوری‌های هوش مصنوعی می‌پردازد و از یک‌سو معضلات اجتماعی و سیاسی آن را مطرح می‌کند و از سوی دیگر راه‌حل‌هایی عملی برای مواجهه با این مشکلات ارائه می‌دهد. بوالاموینی در این کتاب ثابت می‌کند که فناوری، با تمام قدرت و تأثیراتش، اگر بدون در نظر گرفتن عدالت اجتماعی توسعه یابد، می‌تواند به تهدیدی بزرگ برای بشر تبدیل شود.
بخش‌هایی از هوش مصنوعی بدون نقاب
در دنیای امروز، هوش مصنوعی به بخش جدایی‌ناپذیر زندگی ما تبدیل شده است. از شناسایی چهره‌ها گرفته تا سیستم‌های پیشنهادی، هوش مصنوعی در همه جا حضور دارد. اما این فناوری نه‌تنها تغییرات عظیمی در جامعه به وجود آورده، بلکه خطرات و چالش‌های جدیدی را نیز با خود به همراه آورده است.
یکی از بزرگ‌ترین مشکلات این است که اغلب سیستم‌های هوش مصنوعی، بدون هیچ‌گونه نظارت دقیق یا آگاهی اجتماعی، طراحی می‌شوند. این سیستم‌ها اغلب پیش‌داوری‌های انسانی را که به‌طور ناخودآگاه در کدها و الگوریتم‌ها نفوذ کرده است، تقویت می‌کنند. به همین دلیل، نمی‌توان انتظار داشت که این فناوری‌ها بی‌طرف و عادلانه عمل کنند.
یکی از مفاهیم کلیدی که در این کتاب به آن پرداخته می‌شود، «نگاه کدگذاری‌شده» است. این نگاه به این معناست که الگوریتم‌ها و سیستم‌های هوش مصنوعی، در حقیقت فقط مجموعه‌ای از داده‌ها و کدها نیستند؛ بلکه این سیستم‌ها، انعکاسی از تعصبات و ارزش‌های افرادی هستند که آن‌ها را طراحی کرده‌اند. از آنجا که اکثر طراحان این فناوری‌ها از گروه‌های خاص اجتماعی هستند، معمولاً مشکلاتی همچون تبعیض نژادی، جنسیتی، یا حتی تبعیض علیه افراد دارای معلولیت، در این سیستم‌ها به‌طور ناخودآگاه وارد می‌شود.
در تجربه‌های خود، از زمان تحصیل در MIT و مواجهه با سیستم‌های شناسایی چهره، من متوجه شدم که این فناوری‌ها قادر به شناسایی دقیق چهره افراد رنگین‌پوست و به‌ویژه زنان نیستند. این موضوع نه تنها ناشی از ضعف‌های فنی، بلکه از تبعیض‌های نهادینه‌شده در طراحی این سیستم‌ها بود. سیستم‌های هوش مصنوعی که قرار بود به ابزاری برای برابری تبدیل شوند، خود در عمل به تقویت نابرابری‌ها کمک می‌کردند.
مبارزه‌ای که برای ایجاد عدالت در این حوزه آغاز کردیم، نه تنها محدود به دانشگاه‌ها یا مراکز تحقیقاتی نیست، بلکه یک جنبش اجتماعی است که در آن همه افراد، چه متخصص و چه غیرمتخصص، باید سهمی داشته باشند. هدف ما از تأسیس «اتحادیه عدالت الگوریتمی» این است که بتوانیم به جامعه‌ای عادلانه‌تر و شفاف‌تر دست یابیم که در آن هوش مصنوعی به جای سرکوب، ابزاری برای پیشرفت انسانی باشد.
ما باید به دنیای هوش مصنوعی نگاه کنیم نه تنها به‌عنوان ابزاری تکنیکی، بلکه به‌عنوان ابزاری که می‌تواند بر روی عدالت اجتماعی تأثیر بگذارد. در دنیای امروز، دیگر نمی‌توان به سادگی از کنار این فناوری گذشت؛ زیرا هر الگوریتم، هر سیستم هوش مصنوعی که طراحی می‌شود، تأثیرات عمیقی بر زندگی انسان‌ها خواهد داشت. این تأثیرات ممکن است در ابتدا نامحسوس به نظر برسند، اما به تدریج می‌توانند به موانعی بزرگ در مسیر حقوق بشر و آزادی‌های فردی تبدیل شوند.
اگر به کتاب هوش مصنوعی بدون نقاب علاقه دارید، بخش معرفی برترین کتاب‌های کامپیوتر و فناوری اطلاعات در وب‌سایت هر روز یک کتاب، شما را با سایر آثار مشابه نیز آشنا می‌سازد.
کتاب بسیار خوبی در رابطه با هوش مصنوعی است که نه فقط به نقاط قوت و امتیازات هوش مصنوعی بلکه به ضعف‌ها، چالش‌ها و تهدیدات این فناوری می‌پردازد.
متاسفانه من نتوانستم نسخه ترجمه فارسی از کتاب پیدا کنم. واقعا مهم است که متخصصان این حوزه در ایران نسبت به ترجمه این کتاب ارزشمند اقدام نمایند.
با تشکر