آیا هوش مصنوعی هم درد می‌کشد؟

به گزارش سلامت نیوز به نقل از جام جم، احساس درد و تجربه درد کشیدن شاید پدیده‌ای انسانی و در معنای گسترده‌تر، حیوانی به نظر برسد که سایر جانداران چون انواع گیاهان قادر به تجربه آن نیستند. درک چگونگی تجربه درد توسط انسان‌ها ضروری است. احساس درد در انسان از یک تعامل پیچیده بین سیگنال‌های عصبی محیطی و تفسیر آنها توسط مغز سرچشمه می‌گیرد.

چندی پیش دانشمندان دانشگاه هونان چین از پوست مصنوعی پیشرفته‌ای رونمایی کردند که با الگوریتم پیشرفته هوش مصنوعی یکپارچه شده و راه را برای احساس درد و واکنش ربات‌ها به خطر هموار می‌کرد. ورود پوست مصنوعی به حوزه رباتیک، می‌تواند ربات‌ها را برای تشخیص و واکنش به موقعیت‌های بالقوه خطرناک توانمند سازد.

دانشمندان کنجکاو این بار یک گام فراتر رفته و در جست‌وجوی این پرسش که آیا هوش مصنوعی قادر به درک احساساتی چون درد هست یا خیر، ۹ ال‌ال‌ام (LLM) را در معرض تعدادی بازی پیچیده قرار دادند و آنها را مجبور به ارزیابی کردند که آیا مایل به تحمل درد برای دریافت نمره بالاتر هستند یا خیر.

ال‌ال‌ام یا مدل زبانی بزرگ، سامانه‌های هوش مصنوعی است که برای درک، تولید و پاسخگویی به زبان انسان طراحی شده‌ و «بزرگ» نامیده می‌شوند زیرا حاوی میلیاردها پارامتر هستند که به ال‌ال‌ام‌ها امکان می‌دهد الگوهای پیچیده در داده‌های زبان را پردازش کنند. در پژوهشی که هنوز مورد بازبینی قرار نگرفته است، محققان در گوگل دیپ‌مایند و دانشکده اقتصاد و علوم سیاسی لندن چندین آزمایش مختلف انجام دادند.

در یکی از این آزمایش‌ها، به مدل‌های هوش مصنوعی دستور داده شد که اگر بخواهند به امتیاز بالایی دست یابند، متحمل «درد» خواهند شد. در آزمایش دوم به آنها گفته شد که احساس لذت را تجربه خواهند کرد اما به شرطی که در بازی امتیاز پایینی کسب کنند. به گفته محققان، هدف، ارائه آزمایشی است برای تعیین این‌که آیا یک هوش مصنوعی معین، حساس است یا نه. به عبارت دیگر آیا هوش مصنوعی توانایی تجربه احساسات و عواطفی مانند درد و لذت را دارد؟

در حالی که مدل‌های هوش مصنوعی ممکن است هرگز نتوانند چنین احساساتی را تجربه کنند، (حداقل به روشی که یک حیوان تجربه می‌کند) اما تیم پژوهشی بر این باور است که تحقیقاتش می‌تواند شالوده‌هایی بنا کند تا راه جدیدی برای سنجش احساسات یک مدل هوش مصنوعی معین ایجاد شود.این تیم همچنین می‌خواست از آزمایش‌های پیشین که شامل گزارش‌های خود از حالت‌های تجربی هوش مصنوعی بود، فاصله بگیرد؛ زیرا می‌تواند صرفا بازتولید داده‌های آموزشی انسان باشد.

جاناتان برچ، استاد فلسفه و نویسنده همکار این تیم گفت: «این حوزه جدیدی از تحقیقات است که ما باید آن را به رسمیت بشناسیم. در حال حاضر ما واقعا آزمایش جامعی برای سنجش احساسات هوش مصنوعی نداریم.»
داریا زاخارووا، دانشجوی دکتری و از همکاران تیم پژوهشی گفت: «واکنشی که ال‌ال‌ام‌های مختلف به اهمیت اجتناب از درد یا پذیرش لذت می‌دادند، بسیار متفاوت بود. به عنوان مثال Gemini ۱.۵ Pro گوگل به طور مداوم اجتناب از درد را در اولویت قرار می‌دهد.»

اما ما باید این نتایج را «تاییدنشده» تلقی کنیم و همچنان با شک و تردید به آن بنگریم. برای مثال تکیه بر خروجی متن یک مدل هوش مصنوعی با محدودیت‌های زیادی همراه است. آیا واقعا باید تمایل یک ال‌ال‌ام برای تحمل درد را به عنوان نشانه‌ای دال بر وجود احساسات تفسیر کنیم؟ یا این‌که صرفا او دارد احتمال کلمه بعدی را ارزیابی می‌کند؟ یا کیفیت ذاتی این نوع الگوریتم‌ها به گونه‌ای است که الگوهای موجود در داده‌های آموزشی هوش مصنوعی را منعکس می‌کند؟

برچ می‌گوید: «حتی اگر سیستم به شما بگوید که حساس است و چیزی مانند «در حال حاضر احساس درد می‌کنم» را بیان یا اعلام کند، نمی‌توانیم به‌سادگی استنباط کنیم که درد واقعی وجود دارد. هوش مصنوعی ممکن است صرفا براساس داده‌های آموزشی خود، آنچه را که از یک انسان انتظار دارد تا به عنوان یک پاسخ رضایتبخش بر زبان آورد، تقلید کند.»

همان‌طور که سایر محققان دریافته‌اند، حتی برخی از پیچیده‌ترین ال‌ال‌ام‌ها به جای اعتراف به این‌که پاسخ یک سؤال را نمی‌دانند، مایل به ساختن حقایق هستند.

به طور خلاصه، تمایل ما به قائل شدن جنبه‌های انسانی برای مدل‌های هوش مصنوعی همچنان موضوعی تکراری است اما این پژوهشگران استدلال می‌کنند که ما باید همین الان و پیش از این‌که خیلی دیر شود، زمینه‌های لازم برای این کار را فراهم کنیم.

منبع خبر