هشدار وزیر علوم درباره دیکتاتوری نامرئی ناشی از هوش مصنوعی

به گزارش پایگاه خبری پژوهندگان عصر، حسین سیمایی صراف، وزیر علوم، تحقیقات و فناوری جمهوری اسلامی ایران، در چهارمین مجمع جهانی یونسکو درباره اخلاق هوش مصنوعی (GFEAI ۲۰۲۶) در ریاض، بر لزوم توجه جدی به پیامدهای اخلاقی توسعه فناوری‌های نوین تأکید کرد.

وی با بیان اینکه فناوری ذاتاً خنثی نیست و هوش مصنوعی نیز به‌طور خودکار رفتاری عادلانه ندارد، گفت: الگوریتم‌ها گاهی به جای آنکه سازنده باشند، می‌توانند به تخریب منجر شوند و پلتفرم‌ها ممکن است به جای پیشبرد نوآوری، منشأ آسیب شوند.

سیمایی با اشاره به اینکه «هوش مصنوعی می‌تواند کنترل بر داده‌ها را به کنترل بر انسان‌ها تبدیل کند»، اظهار کرد: حتی نظارت نیز باید دارای حد و مرز باشد. به گفته او، هرچه شفافیت و نظارت بر دولت‌ها و صاحبان قدرت افزایش یابد، مطلوب‌تر است؛ اما زمانی که نظارت به شهروندان عادی معطوف شود و رفتار، روابط و نیت آنان را رصد کند، می‌تواند به شکلی از «دیکتاتوری نامرئی» تبدیل شود.

وزیر علوم همچنین با تأکید بر مسئولیت اخلاقی پلتفرم‌ها و توسعه‌دهندگان فناوری در قبال شیوه‌های استفاده از هوش مصنوعی تصریح کرد: امروز داده‌ها در اقداماتی به کار گرفته می‌شوند که حقوق بشر را نقض می‌کند و حتی به وقوع مرگ کودکان منجر شده است؛ از همین رو این پرسش جدی مطرح است که آیا پلتفرم‌های هوش مصنوعی در نحوه بهره‌برداری از فناوری‌های خود مسئولیت دارند یا خیر.

سیمایی افزود: بسیاری از چت‌بات‌ها از پاسخ‌دادن به پرسش‌هایی درباره خودکشی امتناع می‌کنند که این اقدام می‌تواند درست تلقی شود، اما در سوی دیگر، هوش مصنوعی قادر است برای شناسایی دقیق و هدف‌گیری انسان‌ها نیز مورد استفاده قرار بگیرد؛ آن هم با بهره‌گیری از فناوری‌های تسلیحاتی. وی در ادامه به ضرورت بررسی عمیق‌تر راهکارها اشاره کرد و نمونه‌هایی از این مسائل را مورد توجه قرار داد.

وزیر علوم در این زمینه به حادثه حمله به مدرسه‌ای در میناب و کشته‌شدن ۱۶۸ دانش‌آموز در زمان تحصیل اشاره کرد و گفت برای یافتن مسیر حل این چالش‌ها باید به‌طور جدی و عمیق اندیشید.

وی نابرابری را یکی دیگر از دغدغه‌های اصلی دوران هوش مصنوعی دانست و بیان کرد: دانش و توانمندی به‌طور طبیعی شکاف‌هایی ایجاد می‌کنند و هوش مصنوعی ممکن است این فاصله‌ها را بیش از هر فناوری پیشین گسترش دهد. از این رو، یک چارچوب اخلاقی نباید تنها به جلوگیری از آسیب محدود شود، بلکه باید دسترسی عادلانه را نیز تضمین کند.

سیمایی تأکید کرد: کشورهای در حال توسعه باید این امکان را داشته باشند تا سامانه‌های هوش مصنوعی متناسب با زبان‌ها و فرهنگ‌های خود را طراحی کنند و سازمان‌های بین‌المللی نیز در حمایت از تحقق این هدف، بار اخلاقی مشخصی بر عهده دارند. به گفته او، فناوری باید در خدمت بشریت باشد و هوش مصنوعی باید آزادی انسان را تقویت کند، نه اینکه آن را محدود سازد.

وزیر علوم در ادامه و در پاسخ به پرسشی درباره مهم‌ترین اقدام برای افزایش ظرفیت ایران در زمینه هوش مصنوعی مسئولانه گفت: اگر این سؤال پیش از ژوئن ۲۰۲۵ مطرح می‌شد، بدون تردید پاسخ من «سرمایه‌گذاری هدفمند و پایدار در بخش‌های آب و انرژی» بود و در گام دوم نیز بر تقویت همکاری‌ها در زیست‌بوم هوش مصنوعی ایران تأکید می‌کردم.

وی افزود: ایران مجموعه‌ای متنوع از دانشگاه‌های توانمند، پژوهشگران برجسته، شرکت‌های دانش‌بنیان و نهادهای تخصصی سیاست‌گذاری و فنی در اختیار دارد؛ بنابراین باید این بخش‌ها به هم نزدیک‌تر شوند و سازوکارهایی برای همکاری مؤثر، تبادل داده، استفاده مشترک از زیرساخت‌ها و تبدیل دستاوردهای انباشته‌شده به راه‌حل‌های مسئولانه برای چالش‌های موجود شکل بگیرد.

سیمایی در پایان با تأکید بر تغییر اولویت‌های منطقه تصریح کرد: امروز معتقدم مهم‌ترین اولویت، نه تنها برای ایران بلکه برای کل منطقه، رفع اقدامات قهری یکجانبه و استقرار صلح در منطقه است. به گفته او، این تحریم‌ها غیراخلاقی‌اند و برقراری امنیت و صلح یک ضرورت اخلاقی محسوب می‌شود.