هوش مصنوعی، با درک سریع ابهامات و پرسش‌ها، نزدیک‌ترین پاسخ‌ها را گرد‌آوری و به صورت چکیده‌ای پرمحتوا، گزارش قابل اتکایی تعیین می‌کند. ولی گذشت زمان و بازدید از نتایج حاصل، واقعیت‌های جدیدی را آشکار کرده که در این یادداشت به آن‌ها پرداخته‌ایم.

شاید اوایل به کارگیری هوش مصنوعی، از پاسخ‌هایی که گرفته‌می‌شد، ذوق زده می شدیم. اینکه بدون گفتن «لطفاً» در ابتدای پرسش‌مان به ما بگوید کدام‌یک از هندوانه‌های پشت وانت شیرین و آبدار است یا بخواهیم در تاریخ اندیشه، از نظرات جاماسپ آگاه شویم و با حکمت اشراق مقایسه‌اش کنیم؛ چقدر دلنشین و دلخواه است.

مرجعی که ابهامات و سوال ما را بفهمد و پاسخ متناسبی در کوتاه‌ترین زمان بدهد فقط با یک پرامپ ناقابل. به پشتوانه‌ی همین تجربیات خوشایند، عده‌ای به کلی آینده را در دست هوش مصـنوعی تصور کرده و نقش زایدی برای انسان و هوش طبیعی آن تصور کرده‌اند.

جنبه‌های کمتر مورد توجه قرار گرفته از پاسخ‌های تولید شده توسط هوش مصنوعی

اما کمی آن‌سوتر را هم ببینیم. گذشت زمان و توقف روی برخی نتایج جدیدتر، واقعیت‌های جدیدی را آشکار کرده: انگار پاسخ‌های هوش مصنوعی، هر چقدر که بیشتر استفاده شده، تراشیده شده و در اینترنت منتشر می‌شوند، جذابیت کمتری پیدا می‌کنند. این صورت هرچند در ظاهر بی‌نقص باشد، ولی از تزریق ژل و بوتاکس در امان نمانده!

بیایید نگاهی به یکی از مهم‌ترین الگوریتم‌های هوش مصنوعی بیندازیم:
هوش مصنوعی، با جستجو در مراکز داده‌ای و صفحات اینترنتی، نزدیک‌ترین پاسخ‌ها را گرد‌آوری می‌کند. کاری شبیه به گزیده‌ی ویژه گوگل که البته زیر رصد برخی از تولیدکنندگان محتوا و قوانین کپی رایت نیز قرار دارد.

پاسخ‌های اولیه هوش مصنوعی، عمدتاً نکاتی بودند که توسط انسان نوشته شده‌بودند و روح داشتند. اما پاسخ های نسل دوم و سوم، دیگر انسانی را در پس خود نداشتند. و می‌توان حدس زد پاسخ‌های قبلی هوش مصنوعی، همچنان نشر و بازنشر و بازتولید می‌شود.

پاسخ‌هایی که قبلاً ساده‌سازی شده و جنبه‌های انسانی نوشته و لطافت طبع نگارش در آن کمرنگ و کمرنگ‌تر می‌شود. درست مثل سریال‌های آبکی! خالی از اتفاق و جذابیت کافی در فیلمنامه.

بسیاری از جنبه‌های خلاقانه در پاسخ‌ها که احتمالاً تردیدهای بیشتری بر آنها وارد است و همان‌ها بالقوه منشأ نظرات و دیدگاه‌های جدید می‌شوند، دیگر دیده‌نمی‌شود. چون قطعیت کمتری داشته و در مقایسه‌ی منابع، وزن کمتری پیدا می‌کنند. طبیعی است که این دسته از پاسخ‌ها از مرجعیت هوش مصنوعی کنار گذاشته‌شده و به حاشیه می‌روند. هوش مصنوعی، ریسک این نوع پاسخ ها را نمی‌پذیرد و آنها را کنار می‌گذارد. تا حدی که دیگر کمتر می‌توان از پاسخ‌های هوش مصنوعی ذوق کرد و لذت برد.

نتایج تحقیقات درمورد هوش مصنوعی منتشر شده در نشریه نیچر

این تجربه از دید پژوهشگران دانشگاه آکسفورد و کمبریج مخفی نمانده. آنها طی مقاله‌ای در مجله‌ی نیچر نشان دادند با روند تغییرات هوش مصنوعی مولد، همانند مدل‌های زبانی بزرگ، فروپاشی مدل (Model Collapse) در حال روی‌دادن است که در پیامد خود، اکوسیستم آنلاین متنی و تصویری را تغییر خواهد داد.

یافته‌های این تحقیق نشان می‌دهد که استفاده‌ی بی‌قیدوشرط از محتوای تولید شده توسط مدل در یادگیری، باعث نقص‌های برگشت‌ناپذیری در مدل‌های حاصل می‌شود که در آن‌ها دنباله‌های توزیع محتوای اصلی ناپدید می‌شوند. یعنی توضیحات مکمل و انتقادات وارده و کمبودها و محدودیت‌ها توسط هوش مصـنوعی نادیده‌گرفته‌می‌شود.

آی‌بی‌ام هم این فروپاشی را بدین‌گونه توضیح داده‌است:
فروپاشی مدل به کاهش عملکرد مدل‌های هوش مصنوعی مولد اشاره دارد که بر اساس محتوای تولید شده توسط هوش مصنوعی آموزش دیده‌اند.

ابعاد فنی و نرم‌افزاری یادگیری ماشین که کاستی‌ها را آشکار می‌کند

ببینیم این فرآیند از بعد فنی چگونه روی می‌دهد:
معمول است که شرکت‌های هوش مصنوعی در اینترنت می‌خزند (یا اصطلاحاً scrape می‌کنند) تا نسل بعدی مدل‌ها را آموزش دهند. بدین‌ترتیب که یک خزنده وب، یا «اسپایدر»، درست همانند شخصی که زمان زیادی در اختیار دارد، در اینترنت می‌چرخد و لینک‌های مختلف را برای فهرست‌بندی و جستجوی محتوا با دنبال کردن پیوندها و کاوش، مشاهده می‌کند.

بدین معنی که ابتدا محیط وب یا یک وب‌سایت خاص را «خزش» می‌کنند تا آدرس صفحات اینترنتی (URL‌ها) را پیدا کنند. سپس آن‌ها را به اسکریپر (scraper) خود منتقل می‌کنند تا داده‌های موردنظر را از آن‌ها استخراج کند.

با تکرار و تکرار این فعالیت که در باطن خود بسیار محافظه‌کارانه عمل می‌کند، آنچه باقی می‌ماند، میانگین یا چیزی است که مورد تأیید اکثریت است و انتقادات و مخالفت‌های کمتری را برانگیخته‌است. محتوایی بسیار امن، مورد انتظار و بی‌مزه.

بدین‌گونه نسل‌های بعدی روی همان محتوای خالی از خلاقیت‌ها و انتقادات و عام، آموزش می‌بیند و در عوض فرصت‌های خود را برای توجه به انتقادات، شواهد نقض کننده و مسائل جانبی از دست می‌دهد و نسل بعدتر هم همین‌ راه را با سرعت بیشتری طی خواهدکرد.

شاید یکی از اولویت‌های طراحان هوش مصنوعی باید متوجه یافته‌های جدیدتر انسانی، جنبه‌های کمتر مورد توجه قرارگرفته و دیدگاه‌های انتقادی به موضوعات مختلف باشد. در همان حال توجه کاربران به این کاستی‌های هوش مصنوعی می‌تواند آنها را از گزند و ریسک توجه نکردن به جنبه‌های پیچیده‌تر، نقض باورهای عام و کمترشناخته‌شده‌تر دور نگه‌دارد.