نیازمند هوش مصنوعی پاسخگو هستیم

فاطمه سادات محمدی

آستان بهارستان؛ هوش مصنوعی (AI) به‌عنوان یکی از مهم‌ترین فناوری‌های قرن حاضر، در حال تغییرات عمده در نحوه زندگی، کار و تعاملات انسانی است. استفاده صحیح و اخلاقی از این فناوری می‌تواند به بهبود زندگی بشر، حل مسائل جهانی، مانند فقر، نابرابری و بحران‌های محیط زیست کمک کند.

اما درعین حال، توسعه و پیاده‌سازی نادرست این فناوری می‌تواند تهدیدات و چالش‌های جدی به‌ویژه در زمینه حقوق انسان‌ها، عدالت اجتماعی و حفظ کرامت انسانی به‌دنبال داشته باشد.

اسلام به‌عنوان دینی جامع و جهانی، اصول و قواعدی برای زندگی اخلاقی، اجتماعی و فردی بشر فراهم می‌آورد که می‌تواند مبنای مناسبی برای تدوین چارچوب‌های اخلاقی هوش مصنوعی باشد.

ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه تلاش کرده است تا در راستای توسعه و ارتقای هوش مصنوعی و بر اساس اهداف متعالی اسلام و کشور گام‌های بلندی را بردارد.

دراین خصوص با دکتر محمدرضا قاسمی دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه به گفت وگو پرداختیم که مشروح این گفت وگو را در ادامه خواهید خواند:

ستاد راهبری هوش مصنوعی در صدد پیاده‌سازی اخلاق هوش مصنوعی است

• هدف ستاد از ورود به حوزه هوش مصنوعی چیست؟

هدف ستاد راهبری هوش مصنوعی حوزه های علمیه روشن‌گری، اطلاع‌رسانی و توسعه زیرساخت‌های این فناوری نوین در کشور به‌خصوص در حوزه‌های مبنایی و حوزوی است.

هدف اصلی ما تعیین اصول اخلاقی و رفتار‌های مورد نیاز در طراحی، توسعه و استفاده از سیستم‌های هوش مصنوعی بر اساس اصول اسلامی است.

هوش مصنوعی می‌تواند فرصت‌های زیادی برای بهبود کیفیت زندگی بشر ایجاد کند، اما باید با رعایت معیار‌های اخلاقی و انسانی عمل کند تا از تهدیدات احتمالی و مشکلات اجتماعی و فردی جلوگیری شود.

اسلام به عنوان دینی که هم به ابعاد فردی و هم به ابعاد اجتماعی زندگی انسان توجه دارد، برای استفاده از هر فناوری و ابزار جدید اصول و ضوابط خاصی را مشخص می‌کند که این اصول باید در طراحی، توسعه و استفاده از هوش مصنوعی لحاظ شوند.

• چه اصول اخلاقی اسلامی در هوش مصنوعی مدنظر ستاد راهبری فناوری‌های هوشمند حوزه علمیه است؟

هوش مصنوعی بر اساس آموزه‌های اسلامی، باید به گونه‌ای طراحی و پیاده‌سازی شود که از کرامت انسانی، حقوق بشر و امنیت عمومی محافظت کند. پنج اصل کلیدی مدنظر ستاد، حفظ کرامت انسانی، عدالت و برابری، حفظ محیط زیست و منابع طبیعی، مسئولیت‌پذیری و تأکید بر اخلاق و شرأفت است.

• منظور شما از حفظ کرامت و حقوق فردی چیست؟

طبق آیات قرآن و سنّت پیامبر اسلام، انسان‌ها از کرامت و ارزش ویژه‌ای برخوردار هستند و به‌عنوان بهترین مخلوقات معرفی شده‌اند: «وَلَقَدْ کَرَّمْنَا بَنِی آدَمَ» (إسراء: ۷۰)، «فَتَبَارَکَ اللَّهُ أَحْسَنُ الْخَالِقِینَ» (مؤمنون: ۱۴). بنابراین، هوش مصنوعی نباید موجب تحقیر یا نقض حقوق انسان‌ها شود.

سیستم‌های هوش مصنوعی نباید به گونه‌ای طراحی شوند که انسان‌ها را از فرآیند‌های تصمیم‌گیری حذف کنند یا آنان را در موقعیت‌های آسیب‌پذیر قرار دهند.

این کرامت باید در تمام جنبه‌های زندگی انسان به‌ویژه در تعامل با تکنولوژی‌های نوین مانند هوش مصنوعی محفوظ بماند.

توسعه‌دهندگان و بهره‌برداران از سیستم‌های هوش مصنوعی باید تضمین کنند که هیچ‌گونه تهدیدی برای کرامت انسان‌ها ایجاد نمی‌شود.

برخی از اقدامات مهم در این راستا حفظ حریم خصوصی و امنیت اطلاعات فردی است؛ سیستم‌های هوش مصنوعی نباید به‌گونه‌ای طراحی شوند که اطلاعات شخصی افراد را بدون رضایت آن‌ها جمع‌آوری و تحلیل کنند.

عدم بهره‌برداری از انسان‌ها در موقعیت‌های آسیب‌پذیر موضوعی است که باید به آن توجه ویژه کرد؛ انسان‌ها نباید به‌عنوان ابزاری برای اهداف سودجویانه و یا فریب‌کارانه در نظر گرفته شوند. به‌عنوان مثال، استفاده از هوش مصنوعی برای دستکاری افکار عمومی یا رفتار‌های کاربران در جهت منافع اقتصادی یا سیاسی باید محدود شود.

• درخصوص عدالت و برابری چه تدابیری‌اندیشیده شده که کاهنده تبعیض‌ها باشد؟

اسلام همواره بر عدالت و برابری در برخورد با افراد تأکید دارد. طبق دستور قرآن «وَإِذَا حَکَمْتُم بَیْنَ النَّاسِ أَن تَحْکُمُوا بِالْعَدْلِ» (نساء: ۵۸)، «اعْدِلُوا هُوَ أَقْرَبُ لِلتَّقْوَىٰ» (مائده: ۸)، «إِنَّ اللَّهَ یَأْمُرُ بِالْعَدْلِ وَالْإِحْسَانِ» (نحل: ۹۰) عدالت یکی از اصول اصلی است. الگوریتم‌ها و مدل‌های هوش مصنوعی نباید منجر به تبعیض یا نابرابری در فرصت‌ها و حقوق افراد شوند.

در این راستا، هوش مصنوعی باید از تبعیض‌های نژادی، جنسی، مذهبی و اجتماعی جلوگیری کند.

برخی از اصول مرتبط با عدالت در هوش مصنوعی عبارتند از شفافیت در تصمیم‌گیری‌های خودکار به این معنا که سیستم‌های هوش مصنوعی باید به‌گونه‌ای طراحی شوند که تصمیمات آن‌ها قابل فهم و شفاف برای انسان‌ها باشد و هیچ‌گونه تصمیم ناعادلانه یا تبعیض‌آمیز اتخاذ نکنند.

جلوگیری از تبعیض سیستماتیک از اصول دیگری است که طبق آن الگوریتم‌ها باید طوری طراحی شوند که به‌طور خودکار از تبعیض‌های جنسیتی، نژادی و اجتماعی جلوگیری کنند و در برابر داده‌های مغرضانه حسّاس باشند.

• درخصوص حفظ محیط زیست و منابع طبیعی در هوش مصنوعی دیده شده است؟

بله؛ قرآن کریم بر حفظ منابع طبیعی و محیط زیست تأکید دارد؛ در آیات ۱۵۱ و ۱۵۲ سوره شعرا آمده «وَلَا تُطِیعُوا أَمْرَ الْمُسْرِفِینَ الَّذِینَ یُفْسِدُونَ فِی الْأَرْضِ وَلَا یُصْلِحُونَ» و همچنین در آیه ۸۷ سوره مائده می خوانیم «یَا أَیُّهَا الَّذِینَ آمَنُوا لَا تُحَرِّمُوا طَیِّبَاتِ مَا أَحَلَّ اللَّهُ لَکُمْ وَلَا تَعْتَدُوا إِنَّ اللَّهَ لَا یُحِبُّ الْمُعْتَدِینَ» .

در روایات و احادیث رسول اکرم (ص) و اولیاء الهی (ع) نیز تأکیدات فراوانی بر حفظ زمین شده است، مانند «تَحَفَّظُوا مِنَ الْأَرْضِ فَإِنَّهَا أُمُّکُمْ وَ لَیْسَ فِیهَا أَحَدٌ یَعْمَلُ خَیْراً أَوْ شَرّاً إِلَّا وَ هِیَ مُخْبِرَهٌ بِهِ» (بحار، ج۷، ص۹۷).

بنابراین، طراحی و پیاده‌سازی سیستم‌های هوش مصنوعی باید به‌گونه‌ای باشد که از تخریب منابع طبیعی جلوگیری کند و توسعه پایدار را ترویج دهد. هر گونه فعالیت انسانی که منجر به تخریب محیط زیست و منابع طبیعی شود، مخالف اصول اسلامی است.

در توسعه هوش مصنوعی باید از این اصول تبعیت کرد. اقدام به طراحی هوش مصنوعی سبز از آن جمله است؛ سیستم‌های هوش مصنوعی باید به‌گونه‌ای طراحی شوند تا منابع طبیعی به‌طور بهینه مصرف شود و درعین حال میزان آلایندگی و مصرف انرژی کاهش یابد.

همچنین از هوش مصنوعی می‌توان به‌عنوان ابزاری برای حل مشکلات و چالش‌های زیست‌محیطی مانند تغییرات اقلیمی، آلودگی هوا و آب و بحران‌های زیست‌محیطی استفاده کرد.

• با توسعه هوش مصنوعی مسئولیت‌پذیری هم درنظر گرفته می‌شود؟

طبق آموزه‌های اسلامی، هر فرد و هر سیستم باید در برابر اعمال و تصمیمات خود مسئول باشد «کُلُّ نَفْسٍ بِمَا کَسَبَتْ رَهِینَهٌ» (مدّثر: ۳۸)، «إِنَّ السَّمْعَ وَالْبَصَرَ وَالْفُؤَادَ کُلُّ أُولَٰئِکَ کَانَ عَنْهُ مَسْئُولًا» (إسراء: ۳۶)، «وَأَوْفُوا بِالْعَهْدِ إِنَّ الْعَهْدَ کَانَ مَسْئُولًا» (إسراء: ۳۴). بنابراین، توسعه‌دهندگان و استفاده‌کنندگان از فناوری‌های هوش مصنوعی باید در قبال تأثیرات اجتماعی، اخلاقی و محیطی این فناوری‌ها مسئول باشند.

• تأکید بر اخلاق و شرأفت تا چه میزان در این فناوری اهمیت دارد؟

با توجه به تأکیدات فراوانی که در قرآن نسبت به مراعات اصول اخلاقی دیده می‌شود «وَبِالْوَالِدَیْنِ إِحْسَانًا وَذِی الْقُرْبَىٰ وَالْیَتَامَىٰ وَالْمَسَاکِینِ وَقُولُوا لِلنَّاسِ حُسْنًا» (بقره: ۸۳)، «الَّذِینَ یَسْتَمِعُونَ الْقَوْلَ فَیَتَّبِعُونَ أَحْسَنَهُ أُولَٰئِکَ الَّذِینَ هَدَاهُمُ اللَّهُ وَأُولَٰئِکَ هُمْ أُولُو الْأَلْبَابِ» (زمر: ۱۸)، «وَلَا تَلْمِزُوا أَنفُسَکُمْ وَلَا تَنَابَزُوا بِالْأَلْقَابِ» (حجرات: ۱۱)

همچنین ضرورت اهتمام به اخلاق در احادیث بسیاری از رسول مکرّم اسلام (ص) و اهل بیت (ع) وارد شده است، مانند: «إِنَّمَا بُعِثْتُ لِأُتَمِّمَ مَکَارِمَ الْأَخْلَاق» (بحار، ج۶۸، ص۳۸۲)، باید در طراحی و استفاده از هوش مصنوعی، شرأفت و اصول اخلاقی در اولویت قرار گیرد.

شفافیت و وضوح در تصمیم‌گیری‌های خودکار

• توسعه‌دهندگان و پژوهشگران هوش مصنوعی باید به چه اصولی به صورت ویژه توجه نمایند؟

سیستم‌های هوش مصنوعی باید شفّاف باشند و افراد بتوانند دلیل تصمیمات گرفته‌شده توسط این سیستم‌ها را درک کنند. توسعه‌دهندگان هوش مصنوعی باید در قبال تصمیمات و نتایج ناشی از سیستم‌های خود مسئول باشند. این شفافیت به‌ویژه در موارد حسّاس مانند اتوماسیون تصمیم‌گیری، پزشکی و نظام‌های قضایی ضروری است.

توسعه‌دهندگان باید نحوه جمع‌آوری، تحلیل و استفاده از داده‌ها را شفاف کنند و از به‌کارگیری الگوریتم‌های بسته و غیرقابل فهم جلوگیری نمایند.

هوش مصنوعی باید در قبال عملکرد خود پاسخگو باشد

سازندگان هوش مصنوعی باید از حقوق افراد در برابر سوءاستفاده دفاع کنند

اگر سیستم هوش مصنوعی تصمیمات نادرستی اتخاذ کند یا به زیان مردم منجر شود، باید مسئولیت عواقب آن مشخص بوده و اصلاحات لازم صورت گیرد.

هیچ فرد یا گروهی نباید از فناوری‌های هوش مصنوعی به‌منظور نقض حقوق افراد استفاده کند. برای مثال، نباید از آن برای نظارت بر زندگی خصوصی افراد استفاده شود. هوش مصنوعی نباید به‌گونه‌ای استفاده شود که نقض حقوق بشر یا آزادی‌های مشروع فردی را به‌دنبال داشته باشد.

• برای رسیدن به این منظور، باید از چه اصولی پیروی شود؟

توسعه‌دهندگان باید اطمینان حاصل کنند که سیستم‌های هوش مصنوعی به‌طور غیرمجاز به داده‌های شخصی دسترسی نداشته و حریم خصوصی افراد به خطر نیافتد.

از هوش مصنوعی نباید برای اهداف نظامی نامشروع یا جاسوسی استفاده شود که حقوق فردی و آزادی‌های مردم را تهدید کند.

• توسعه‌دهندگان هوش مصنوعی بایستی به چه مواردی توجه نمایند؟

در طراحی و استفاده از هوش مصنوعی، باید از تولید یا انتشار محتوای غیرمجاز و مضرّ از جمله محتوای مبتذل، فریب‌کارانه و خلاف عقاید، احکام شرعی و اخلاق اسلامی جلوگیری شود.

فناوری‌های هوش مصنوعی باید برای خدمت به بشریت و بهبود وضعیت اجتماعی، اقتصادی و پزشکی مردم مورد استفاده قرار گیرد، به‌ویژه در حل مشکلات بزرگ مانند فقر، بیماری‌ها و بحران‌های انسانی. توسعه‌دهندگان هوش مصنوعی بایستی در هر پروژه‌ای به این اهداف توجه داشته باشند.

• در بحث مهم نظارت و مقرّرات حقوقی چه اقدامی باید محقق شود؟

بر اساس مبانی اسلامی، باید نظارت کافی بر استفاده از هوش مصنوعی وجود داشته باشد تا از سوءاستفاده‌های احتمالی جلوگیری شود. مسئولان قضایی و بازرسی باید چارچوب‌های قانونی و اخلاقی واضحی برای استفاده از این فناوری‌ها تدوین کنند. همچنین، نهاد‌های نظارتی باید در زمینه رعایت اصول اسلامی و انسانی در استفاده از هوش مصنوعی نقش فعّال و تأثیرگذاری داشته باشند.

قوانین مربوط به هوش مصنوعی باید با در نظر گرفتن اصول اسلامی و حقوق بشر تنظیم شوند و توسعه‌دهندگان را ملزم به رعایت این اصول کنند.

کشور‌های اسلامی باید در ایجاد قوانین جهانی در زمینه هوش مصنوعی مشارکت کرده و از عدالت، برابری و حفظ کرامت انسانی در عرصه بین‌المللی دفاع نمایند.

اسلام چه راهکار‌هایی برای استفاده از این فناوری دارد؟

هوش مصنوعی به‌عنوان یکی از پیشرفته‌ترین دستاورد‌های بشری در صورتی که با دقّت، شفافیت و مسئولیت‌پذیری استفاده شود، می‌تواند به‌طور چشمگیری به بهبود کیفیت زندگی انسان‌ها کمک کند.

در عین حال، استفاده نادرست و بی‌ملاحظه از این فناوری تهدیداتی جدی برای حقوق بشر، کرامت انسانی و محیط زیست به‌دنبال خواهد داشت.

اسلام با تأکید بر عدالت، کرامت و احترام به انسان‌ها، به‌طور شفاف راهکار‌هایی برای استفاده اخلاقی از هوش مصنوعی ارائه می‌دهد که می‌تواند به‌عنوان مبنایی برای تدوین قوانین، استاندارد‌ها و دستورالعمل‌های اخلاقی در استفاده از هوش مصنوعی در داخل کشور و همچنین مجامع جهانی به‌کار رود و آغازی برای توسعه چارچوب‌های اخلاقی در دنیای فناوری‌های هوش مصنوعی باشد لذا ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه در راستای تحقق این اهداف فعالیت می‌کند.پایان پیام/