هوش مصنوعی دموکراسی‌ را تهدید می کند؟

عجم اوغلو در سال ۲۰۱۳ میلادی برنده “جایزه فرهنگ و هنر‌های ریاست جمهوری ترکیه” و جایزه دیگری از سوی “فرهنگستان علوم ترکیه” شده بود. کتب متعددی از عجم اوغلو به فارسی ترجمه شده اند که از جمله آن می‌توان به “ریشه‌های اقتصادی دیکتاتوری و دموکراسی” با ترجمه “جعفر خیرخواهان” چاپ شده توسط انتشارات کویر، “راه باریک آزادی” ترجمه “علیرضا بهشتی شیرازی” و “جعفر خیرخواهان” چاپ شده توسط انتشارات روزنه و “چرا ملت‌ها شکست می‌خورند”؟ با ترجمه “محسن میردامادی” و “محمد حسین نعیمی پور” چاپ شده توسط انتشارات روزنه اشاره کرد.

به گزارش پروژه سندیکایی، نویسندگان رمان‌ها از مدت‌ها پیش سناریو‌هایی را متصور شده بودند که در آن هر عمل انسانی توسط برخی از مقام‌های حکومتی تحت نظارت قرار می‌گرفتند. اکنون، اما علیرغم هشدار‌های آنان متوجه می‌شویم که این نگرانی واقعی بود و ما نیز نگران آینده‌ای دیستوپیایی از نوعی هستیم که “جورج اورول” در رمان “۱۹۸۴” توصیف کرده بود. چگونگی محافظت از حقوقمان به عنوان مصرف کنندگان، کارگران و شهروندان هرگز به فوریت امروز نبوده است.

یک پیشنهاد معقول این است که ثبت اختراعات در حوزه فناوری‌های نظارتی محدود شود تا از توسعه و استفاده بیش از حد آن جلوگیری به عمل آید. اگر همه چیز برابر باشد، امکان دور کردن فناوری‌های مرتبط با هوش مصنوعی از برنامه‌های نظارتی، وجود خواهد داشت. با این وجود، جهان بین کشور‌های دارای پروتکل‌های موثر نظارت و کشور‌هایی که به آن پروتکل‌ها پایبند نیستند و از آن پیروی نمی‌کنند تقسیم خواهد شد. بنابراین، ما باید مبنای مشروع تجارت بین این بلوک‌های نوظهور را در نظر بگیریم.

قابلیت‌های هوش مصنوعی در ۱۸ ماه گذشته با پیشرفت همراه بوده‌اند و بعید به نظر می‌رسد که سرعت توسعه آن کُند شود. انتشار عمومی چت جی پی تی (Chat GPT) در نوامبر ۲۰۲۲ میلادی نقطه عطفی در عرصه هوش مصنوعی مولد بود و در سراسر جهان طنین انداز شد.

با این وجود، رشد سریع در قابلیت‌های نظارتی دولت‌ها و شرکت‌ها از اهمیت مشابهی برخوردار بوده است. از آنجایی که هوش مصنوعی مولد در تطابق الگو‌ها برتر است تشخیص چهره را به طرز قابل توجهی دقیق کرده است. البته دارای برخی نقص‌های اساسی نیز بوده است. چنین نظارتی از نظر فنی منجر به “بهره وری بالاتر” می‌شود به این معنا که توانایی مقام‌ها برای وادار کردن افراد به انجام کاری که قرار است انجام دهند را افزایش می‌دهد. برای شرکت‌ها این به معنای انجام کار‌هایی است که مدیریت آن را بالاترین سطح بهره وری می‌داند. برای یک دولت این به معنای اجرای قانون یا کسب اطمینان از تبعیت افراد از قدرت است.

متاسفانه تجربه هزار ساله نشان داده که افزایش بهره‌وری لزوما منجر به بهبود در رفاه همگانی نمی‌شود. نظارت امروزی مبتنی بر هوش مصنوعی، به رهبران سیاسی خودکامه و مدیران مستبد اجازه می‌دهد تا قوانین خود را به طور موثرتری اجرا کنند. با این وجود، علیرغم آن که بهره وری ممکن است افزایش یابد اکثر افراد از این وضعیت سودی نخواهند برد.

این صرفا حدس و گمانه زنی نیست. شرکت‌ها در حال حاضر از روش‌های نظارتی تقویت شده با هوش مصنوعی برای نظارت بر حرکت کارکنان خود استفاده می‌کنند. برای مثال، آمازون از کارکنان بخش تحویل کالای خود خواسته تا اپلیکیشنی را دانلود کنند که به مامور رساندن کالا امتیاز داده و این کار را ظاهرا با عنوان و بهانه ایمنی کارکنان انجام می‌دهد. برخی از ماموران تحویل کالا گزار ش داده اند که حتی زمانی که در ساعات کاری به سر نمی‌برند توسط آن اپلیکیشن ردیابی می‌شوند.

شرکت مشاوره “گارتنر” تخمین می‌زند که سهم کارفرمایان بزرگ در استفاده از ابزارهای دیجیتالی برای ردیابی کارکنانشان از زمان آغاز پاندمی کووید – ۱۹ به این سو به میزان ۶۰ درصد افزایش یافته و پیش‌بینی می‌شود طی سه سال آینده افزایشی ۷۰ درصدی داشته باشد. این در حالیست که شواهد موجود نشان می‌دهند نظارت بیش‌تر با رضایت شغلی پایین‌تر ارتباط دارد و حتی بسیاری از کارفرمایان موافق این نظر هستند که نظارت بر کارکنانشان باعث افزایش “نگرانی‌های اخلاقی” شده است.

درست است فناوری نظارت ذاتا ضد انسانی نیست. فناوری می‌تواند ایمنی را بهبود بخشد (مانند نظارت بر تیرانداز‌های فعال). با این وجود، ما باید تعادلی مناسب بین این مزایا و حریم خصوصی برقرار کنیم و باید هر کاری که می‌توانیم انجام دهیم تا اطمینان حاصل شود که فناوری مبتنی بر هوش مصنوعی کارکردی مغرضانه نخواهد داشت (مانند قضاوت براساس رنگ پوست یا جنسیت افراد).

مقابله با این موضوعات به هنجار‌های بین المللی و همکاری جدید نیاز دارد. هر فناوری مبتنی بر هوش مصنوعی که برای ردیابی یا مجازات کارکنان مورد استفاده قرار می‌گیرد باید با شفافیت کامل همراه باشد. اگر صرفا بدین خاطر که یک فناوری مبتنی بر هوش مصنوعی رفتار شما را مشکل ساز قلمداد کرده از محل کارتان اخراج شده اید باید بتوانید این تصمیم را به چالش بکشید. با این وجود، از آنجایی که بسیاری از دستگاه‌های مبتنی بر فناوری هوش مصنوعی جدید “جعبه‌های سیاه” محسوب می‌شوند که حتی توسعه دهندگانشان نیز درک کاملی از آن ندارند.

این وضعیت یک انتخاب اقتصادی بزرگ را پیش روی دموکراسی‌های جهان قرار خواهد داد این که آیا باید به خرید کالا از کشور‌هایی که کارگران مشمول فناوری‌های نظارتی هستند ادامه دهیم؟ ادامه چنین تجارتی و خرید کالا از آن کشور‌ها نظارت و سرکوب بیش‌تر توسط رژیم‌هایی که به دنبال تضعیف دموکراسی‌های هستند را تقویت خواهد کرد.