وابستگی دردسر‌ساز

حجت‌الاسلام دکترعباس نصیری‌فرد،مدرس دانشگاه،نویسنده و کارشناس دین است. اوعلاوه بر پژوهش در حوزه تخصصی دانشگاهی و حوزوی چند سالی است که با ورود به عرصه هوش مصنوعی گام‌های جدیدی درعرصه علم برداشته است. نصیری‌فرد که مسئول نهاد نمایندگی مقام معظم رهبری در دانشگاه علمی-کاربردی کشور است، با همکاری جمعی از اساتید دانشگاه صنعتی شریف و امیرکبیر در یک گروه تحقیقاتی به مسأله هوش مصنوعی دردوعرصه ابزارها و مبانی می‌پردازد. او امیدوار است هوش مصنوعی در خدمت تمدن اسلامی و پیشرفت ایرانی در آید.«جام‌جم» در گفت‌و‌گو با دکتر نصیری‌فرد با بررسی نقش و جایگاه هوش مصنوعی به عنوان عرصه نوپدید در زندگی بشر امروز، به یکی از آسیب‌های آن یعنی ارائه اطلاعات مخدوش در حوزه دین، آیات و روایات پرداخته است، مسأله‌ای که می‌تواند در چند سال آینده جامعه ما را با پدیده جعل حدیث و انحراف فکری مواجه کند. 

با توجه به پیشرفت‌های اخیر در هوش مصنوعی، شما به‌عنوان یک متخصص، مهم‌ترین چالش و نگرانی در مورد استفاده از این فناوری را چه می‌دانید؟
باید به پدیده هوش مصنوعی به عنوان فرصت‌ و چالش دنیای معاصر نگریست. هوش مصنوعی (AI) به عنوان یک پدیده نوظهور در علم و فناوری، پتانسیل عظیمی برای پیشرفت در بسیاری از زمینه‌ها دارد. نگاهی مثبت به هوش مصنوعی به عنوان ابزاری که می‌تواند به انسان در حل مشکلات پیچیده کمک کند، ضروری است. در واقع هوش مصنوعی را می‌توان به عنوان دستیار انسان در نظر گرفت، نه جایگزین آن. الگوریتم‌های هوش مصنوعی با الهام از عملکرد مغز انسان طراحی شده‌اند و از طریق محاسبات پیچیده، اطلاعات را پردازش می‌کنند. اما مهم است که به یاد داشته باشیم هوش مصنوعی یک ابزار است و مانند هر ابزار دیگری، می‌تواند به درستی یا نادرستی استفاده شود.اعتماد صد در صدی به هوش مصنوعی اشتباه است. هوش مصنوعی نیز مانند انسان، می‌تواند اشتباه کند و اطلاعات نادرست ارائه دهد. این به دلیل داده‌های اولیه‌ای است که برای آموزش آن استفاده می‌شود. اگر داده‌ها نادرست یا ناقص باشند، خروجی هوش مصنوعی نیز نادرست خواهد بود. همچنین، هوش مصنوعی می‌تواند اطلاعات جدیدی را بر اساس داده‌های موجود تولید کند که لزوما صحیح یا قابل اعتماد نیستند.

بنابراین استفاده هوشمندانه از هوش مصنوعی بسیار مهم است.
بله. دقیقا همین‌طور است. برای استفاده مؤثر از هوش مصنوعی، نیاز به درک کافی از اصول کارکرد و محدودیت‌های آن است. دانشجویان و محققان باید از اعتماد بیش از حد به هوش مصنوعی در تولیدات علمی اجتناب کنند. هوش مصنوعی می‌تواند به عنوان ابزاری برای کمک به تحقیق و نگارش استفاده شود، اما نباید به عنوان منبع اصلی و قطعی اطلاعات تلقی شود. در کل، هوش مصنوعی یک ابزار قدرتمند است که باید با احتیاط و آگاهی مورد استفاده قرار گیرد. ترکیب دانش انسانی و توانایی‌های هوش مصنوعی می‌تواند به پیشرفت‌های چشمگیری منجر شود.هوش مصنوعی (AI) هرچند در تولید محتوا پیشرفت‌های چشمگیری داشته، اما همچنان نیازمند نظارت و هدایت انسانی است. حتی در مواردی که هوش مصنوعی به نظر می‌رسد پاسخ‌های صحیحی ارائه می‌دهد، اعتماد کامل به آن بدون دخالت هوش انسانی صحیح نیست. دلیل اصلی این امر، سوگیری داده‌ها است. هوش مصنوعی بر اساس داده‌های اولیه‌ای که دریافت می‌کند، آموزش می‌بیند و استدلال می‌کند. این داده‌ها می‌توانند از منابع مختلفی مانند وب‌سایت‌ها، شبکه‌های اجتماعی یا داده‌های شخصی که به آن داده می‌شود، جمع‌آوری شوند.مشکل اساسی زمانی رخ می‌دهد که داده‌های اولیه خود دارای سوگیری باشند. مثلا اگر داده‌های مربوط به یک شخصیت تاریخی از منابعی با دیدگاه منفی جمع‌آوری شود، هوش مصنوعی نیز در تحلیل‌های خود از این سوگیری تبعیت خواهد کرد. مثال شهید سلیمانی نشان می‌دهد که چگونه تغییر در داده‌های اولیه، می‌تواند به تغییر در نتایج هوش مصنوعی منجر شود. در گذشته، به دلیل سوگیری داده‌ها، هوش مصنوعی شهید سلیمانی را به عنوان یک تروریست معرفی می‌کرد، اما با افزودن داده‌های جدید و دقیق‌تر، اکنون اطلاعات صحیح‌تری در مورد ایشان ارائه می‌دهد.

این مسأله فقط به شخصیت‌های سیاسی و تاریخی محدود نمی‌شود. یکی ازمشکلاتی که این روزهابا آن مواجهیم، استفاده کاربران هوش مصنوعی از آن در استخراج آیات و روایات است. تجربه ثابت کرده که برخی از اطلاعات ارائه شده توسط هوش مصنوعی مخدوش است. این مشکل در آینده چه مشکلاتی پدید می‌آورد؟
هوش مصنوعی ممکن است در سایر زمینه‌ها مانند تفسیر آیات قرآن یا احادیث، اشتباهات فاحشی مرتکب شود، چرا که داده‌های اولیه‌ ناقص یا دارای سوگیری، بر خروجی آن اثر می‌گذارد. حتی در مواردی که هوش مصنوعی به نظر می‌رسد اطلاعات جدیدی تولید می‌کند، این اطلاعات لزوما دقیق یا قابل اعتماد نیستند، زیرا هوش مصنوعی در واقعیت فقط داده‌های موجود را بازآرایی می‌کند. بنابراین، به جای اعتماد کامل به هوش مصنوعی، باید از آن به عنوان یک ابزار مکمل استفاده شود. علم بشری و دانش انسانی همچنان نقش اصلی را در تفسیر نتایج هوش مصنوعی و تصحیح خطاهای احتمالی آن دارند. در آینده، با پیشرفت فناوری و بهبود روش‌های آموزش، شاید بتوان به کاهش سوگیری داده‌ها و افزایش دقت هوش مصنوعی امیدوار بود، اما در حال حاضر، وابستگی کامل به هوش مصنوعی در حوزه‌های علمی، دینی و پزشکی بسیار خطرناک است.این نگرانی برای همه علوم وجود دارد. ایلان ماسک که یک سرمایه‌گذار بزرگ در حوزه هوش‌مصنوعی است، چندی پیش گفت: «نگرانی ما این است که در آینده هوش‌مصنوعی بر انسان حاکم می‌شود یا انسان بر هوش مصنوعی.» معتقدم که اگر انسان هوشمندانه از هوش‌مصنوعی بهره ببرد و با ادبیات و زبان آن آشنا شود، می‌تواند از این فناوری به‌عنوان فرصتی در آینده زندگی بشر استفاده کند و بر آن تسلط یابد.

برای مقابله با چالش سوگیری داده‌ها و افزایش دقت و قابلیت اطمینان هوش‌مصنوعی، چه راهکارهایی پیشنهاد می‌کنید؟ آیا نیاز به مقررات و نظارت‌های جدید است؟
یکی ازفرضیه‌ها درباره هوش‌مصنوعی این است که درهیچ شرایطی نباید آن رابدون حضورهوش‌واقعی و انسانی رها کرد. به این معنا که تمام خروجی‌ها و تولیدات محتوایی هوش‌مصنوعی باید با نگرش و هوش انسانی تکمیل شود. یعنی یک موسیقی، ملودی، تصویر یا یک متن که هوش‌مصنوعی تولید می‌کند، نباید به‌طور کامل مورد اعتماد قرار گیرد بلکه باید فردی که در زمینه مورد نظر تخصص دارد، آن را ویرایش و بازبینی کند و  یک «دست انسانی واقعی» به آن بکشد و سپس آن را عرضه کند. در غیر این صورت، هوش‌مصنوعی در آینده، نظام علمی جهان را مختل خواهد کرد. یعنی اگر ما صددرصد به هوش مصنوعی اعتماد کنیم، در آینده، تمام رشته‌های علمی دانشگاهی‌مان از بین خواهد رفت.

یکی از مشکلاتی که هوش مصنوعی ایجاد خواهد کرد ازبین‌رفتن خلاقیت حرفه‌ای است.
کاملا درست‌است.پرامپت‌نویسی(Prompt‌ Engineering)دقیقاهمان چیزی است که به آن اشاره می‌کنید.یعنی دستوردادن به هوش‌مصنوعی و این‌که چگونه به آن دستور بدهیم تا از ارائه اطلاعات نادرست جلوگیری شود، بسیار مهم است و این خود یک تخصص به‌شمار می‌رود.امروزه کارگاه‌های پرامپت‌نویسی برگزار می‌شوند و نشان می‌دهند که این موضوع چقدر در خروجی‌های هوش‌مصنوعی تأثیرگذار است. متأسفانه، جامعه ما هنوز به‌طور کامل با نحوه استفاده از هوش‌مصنوعی آشنا نیست و بیشتر بر مبنای متن و دستورات ساده عمل می‌کند. این درحالی‌است که پرامپت‌نویسی، ادبیات خاص خود را دارد و برای جلوگیری از خطاهای هوش‌مصنوعی، بسیار حیاتی است. بنابراین، این حرف همچنان پابرجاست که نباید به‌طور کامل به هوش‌مصنوعی اعتماد کرد. اگر بخواهیم ضریب خطای هوش‌مصنوعی را در تولیداتش کاهش دهیم، یکی از مؤثرترین راه‌ها، تسلط بر پرامپت‌نویسی است.

اجازه دهید به همان محورقبلی برگردیم.باوجود برخی موسسات حوزوی که درزمینه هوش‌مصنوعی فعالیت می‌کنند، همچنان شاهد استفاده عموم مردم ازنرم‌افزارهای غربی برای جست‌وجوی منابع دینی هستیم. برای رهایی ازآسیب‌های فکری ومذهبی این پدیده نوظهور درآینده چه راهکاری پیشنهادمی‌کنید و چه توصیه‌ای به نهادهای دینی و حوزوی دارید؟
هوش‌مصنوعی یک تیغ دولبه است که در درازمدت می‌تواند آثار مفید یا سوئی بر فضای فکری جامعه بگذارد. قطعا برای رهایی از آسیب‌های احتمالی استفاده مردم از هوش‌مصنوعی باید حوزه و دانشگاه در کنار یکدیگر وارد میدان شوند و در طول یکدیگر باشند. معتقدم حوزه باید در مبانی و لایه‌های عمیق هوش‌مصنوعی وارد شود و مسائل مربوط به ابزارها را به دانشگاهیان متخصص واگذار کند.حوزه باید مباحث مربوط به معرفت‌شناسی، مبانی فلسفی، مبانی اخلاقی و مبانی انسان‌شناختی هوش مصنوعی را در نظر بگیرد و محققان خود را به پژوهش در این رابطه تشویق کند. حوزه‌های علمیه باید در چگونگی شکل‌گیری و توسعه هوش‌مصنوعی در کشور نظریه وسناریو داشته باشند. متاسفانه اکنون هوش‌مصنوعی در کشور ما رها شده است. چت‌بات‌های موجود یا ساخت آمریکا هستند یا چین و کاربران عادی و به‌خصوص جوانان با اشتیاق از آنها استفاده می‌کنند. آنها بدون آن‌که به آسیب‌های احتمالی استفاده مداوم و همه‌جانبه از هوش‌مصنوعی توجه کنند، در همه حوزه‌ها به هوش‌مصنوعی پناه می‌برند. از این منظر، این پدیده جهانی و نوظهور ممکن است در آینده‌ای نزدیک چالش‌های فکری زیادی برای جامعه ایجاد کند زیرا جوانان بدون مراجعه به منابع اصلی و کتاب‌های دینی، هوش‌مصنوعی را باور کرده و آن را می‌پذیرند. در شرایطی‌که اطلاعات و داده‌ها به هوش‌مصنوعی به‌خصوص در حوزه معارف دینی بدون نظارت در اختیار مردم قرار گیرد باید منتظر رخ‌دادن انحراف فکری حاصل از بی‌توجهی به محتوایی که مردم از هوش‌مصنوعی دریافت می‌کنند باشیم. این‌که مردم ما حتی فتوای فقهی خود را به‌جای مراجعه به کتب رساله عملیه و منابع فقهی مراجع تقلید از هوش‌مصنوعی دریافت کنند، ممکن است با  وقوع اشتباه و خطای احتمالی هوش مصنوعی این بعد از زندگی مردم نیز تحت‌الشعاع قرار گیرد.ورود هوش‌مصنوعی بدون نظارت و هدایت منابع آن توسط هوش واقعی انسانی به همه عرصه‌های زندگی، می‌تواند سبک‌زندگی مردم را تغییر دهد. من معتقدم نگاه مصرف‌گرایانه به هوش‌مصنوعی خطای بزرگی است. این پدیده نباید اخلاق اجتماعی و فردی ما را تغییر دهد. جامعه ایرانی یک جامعه دین‌محور و مذهبی است. نباید زندگی دینی مردم را به آن واگذارکنیم. حوزه باید وارد عمل شود و محتوای مورد نیاز را در اختیار این دنیای جدید قرار دهد، زیرا درصورتی‌که وارد عمل نشود ممکن است هنجارها و ناهنجارها جای یکدیگر را بگیرند. 

برخورد هوشمندانه با هوش مصنوعی
بر این باورم که هوش‌مصنوعی می‌تواند عرصه وحدت عملی حوزه و دانشگاه برای حفظ جامعه ایرانی از خطرات احتمالی این پدیده باشد. در همه دنیا این اتفاق رخ داده و اندیشمندان علوم انسانی و دانشمندان حوزه هوش مصنوعی و آی‌تی کنار یکدیگر قرار گرفته و به سناریونویسی و طراحی دنیای جدید پرداخته‌اند. در همه دنیا علوم‌انسانی حرف اول را می‌زند، حتی اگر پای هوش مصنوعی به میان بیاید. به‌هرصورت اندیشمندان حوزه و دانشمندان دانشگاه باید در این اتوبان دوبانده دنیای جدید قدم بگذارند. باید نگاه ما به هوش‌مصنوعی به‌عنوان یک ابزار پیشرفت باشد. حوزه اگر می‌خواهد در دنیای پیش‌روجایی برای حرف‌زدن داشته باشد ودنیای فکر وعقیده جامعه را ازخطرات احتمالی هوش‌مصنوعی و اطلاعات مخدوش دینی نجات دهد، باید به تأمین محتوای دینی برای مردم همت گمارد و در جوار دانشگاهیان و متخصصان آی‌تی، نیازهای فکری جامعه را تأمین کند. اگر حوزه ودانشگاه دست یکدیگر را نگیرند، خیلی زود، دیر می‌شود و هوش‌مصنوعی سبک‌زندگی ایرانی ــ اسلامی را می‌بلعد. بنابراین باید این عرصه را به خدمت بگیریم و از این فرصت طلایی برای انتقال باورهای دینی و ایرانی استفاده کنیم. در غیر این‌صورت هوش‌مصنوعی چالش آینده جامعه ما خواهد شد.