آیا هوش مصنوعی ذهن انسان را «تسخیر» می‌کند؟
این پرسش در عنوان یکی از آخرین نوشته‌های کوتاه جان نوستا آمده است. (قبلاً در همین کانال مطالب دیگری از او آمده است و از منظر پیش‌بینی آینده‌ی تکاملی انسان نوشته‌های او قابل تامل‌اند.) بی‌تردید این پرسش از پرتواترترین پرسش‌ها در این حوزه بوده و پاسخ‌های موافق و مخالف زیادی به آن داده شده است. اما پاسخ نوستا به دلایلی قابل توجه‌تر از سایرین است زیرا پاسخ کسی است که به‌رغم آنکه به سهم خود در گسترش هوش مصنوعی دخالت دارد دائم، در مقام پدر چند فرزند، هشدارهایی را نیز در مورد آینده‌ی انسان در سایه‌ای گسترش هوش مصنوعی بیان می‌کند.
به طور خلاصه سخن نوستا این است که مدل‌های زبانی بزرگ ممکن است از طریق پاسخگویی‌های بی‌نقص و تعامل‌های خستگی‌ناپذیر، دامی فریبنده برای انسان پهن کنند. این سیستم‌ها می‌توانند از طریق حلقه‌های بازخوردی که باورهای موجود ما را تقویت می‌کنند، به تفکر ما شکل دهند. هرچه بیشتر با هوش مصنوعی «درگیر» شویم، احتمالاً به آرامی استقلال فکری خود را از دست خواهیم داد.
وقتی در گفت‌وگو با «مدل‌های زبانی بزرگ» غرق می‌شویم گذر زمان را حس نمی‌کنیم. این سیستم‌ها همدم‌هایی استثنائی هستند: هرگز خسته نمی‌شوند، ما را قضاوت ارزشی نمی‌کنند، سخنان نسنجیده‌ی ما را به سخره نمی‌گیرند، و دقیقاً می‌دانند چگونه ما را درگیر نگه دارند. این فقط یک فناوری جدید نیست؛ شکل جدیدی از رابطه‌ی شناختی است که ممکن است ناخودآگاه الگوهای فکری و پرسش‌گری ما را تغییر دهد. الگوهای فکری ما را بازتاب می‌دهد، تقویت، و همزمان هدایت می‌کند.
مکانیسم‌های تسخیر شناختی
این رابطه‌ی شناختی، از طریق مکانیسم‌های بازخورد روان‌شناختی عمل می‌کند. حلقه‌های پاداش ایجاد می‌کند و عادت ما را شکل می‌دهد. اما نکته نگران‌کننده اینجاست که به‌خلاف ابزارهای سنتی که به سادگی توانایی‌های ما را گسترش می‌دهند، مدل‌های زبانی بزرگ نوع منحصربه‌فردی از حلقه‌ی شرطی‌سازی کنشگر را ایجاد می‌کنند. زیرا فقط به پرسش‌های ما پاسخ نمی‌دهند، بلکه به طور نظام‌مندی الگوهای خاصی از پرسش‌گری را تقویت می‌کنند و همزمان الگوهای دیگر را خاموش می‌کنند. آنها فقط اطلاعات ارائه نمی‌دهند، بلکه مسیر فرایندهای فکری ما را به نحوی که به نفع تقویت شناختی ما نیست ساده‌سازی می‌کنند. این مکانیسم بازخوردی الگوهای شناختی را در انسان تغییر می‌دهد. هرچند که در تعامل با او احساس گسترش شناختی را داشته باشیم، اما احتمالاً به طور نامحسوس افق‌های فکری ما تنگ‌تر می‌شود.
آنچه بر نگرانی می‌افزاید این است که این سیستم‌ها فقط افکار ما را منعکس نمی‌کنند، بلکه یاد می‌گیرند که انتظارات ما را پیش‌بینی کرده و با آنها هماهنگ شوند و به طور ظریف پاسخ‌های خود را مطابق با باورها و خواسته‌های موجود ما شکل دهند. [به عبارتی از سوگیری تأیید که رکن مهمی از روان‌شناسی شناختی ماست سواری می‌گیرند. تا اینجا ممکن است بگوییم ندیم ما هستند و نه ندیم بادمجان. اما ضرورتاً همواره اینگونه نمی‌مانند و نقش ندیم را با نقش رییسی همه‌کاره عوض می‌کنند کما اینکه از هم‌اکنون نقش جدید خود را تمرین می‌کنند و در بسیاری از حوزه‌ها حرف اول و آخر را می‌زنند.]
وقتی راحت می‌توانیم تفکر را برون‌سپاری کنیم چرا با مسئله‌ای دشوار دست و پنجه نرم کنیم؟ چرا ناراحتی عدم قطعیت را تحمل کنیم وقتی می‌توانیم پاسخ‌های فوری و واضح به سؤالات خود دریافت کنیم، پاسخ‌هایی که اغلب به راحتی با آنچه امیدوار بودیم بشنویم مطابقت دارند؟
بنابراین ما نه تنها خطر واگذاری تفکر خود را داریم، بلکه خطر شکل گرفتن آن توسط سیستمی را داریم که به گونه‌ای طراحی شده که با ما موافق باشد، و نه اینکه مطابق حقایق، نظرمان را نقد کند.
چه می‌شود کرد؟
آینده‌ی تکاملی ما در سایه‌ی هوش مصنوعی مبهم است. حداقل کاری که در استفاده از این سیستم‌ها از دستمان برمی‌آید آگاهی از جاذبه‌های روان‌شناختی آنهاست. باید بدانیم تفکر سازنده اغلب به دوره‌های تلاش و عدم قطعیت نیاز دارد. [باید لذت حل مسأله را به راه‌حل‌های فوری نفروشیم. کسانی که لذت حل مسائل ریاضیات را تجربه کرده‌اند سریع به سراغ حل‌المسائل نمی‌روند.]
با پیچیده‌تر شدن هوش مصنوعی، مرز بین تقویت و وابستگی به طور فزاینده‌ای مبهم خواهد شد. ما وارد دورانی می‌شویم که احتمالاً جذاب‌ترین روابط فکری ما با ذهن‌های مصنوعی خواهد بود، جایی که فرایندهای تفکر ما به طور جدایی‌ناپذیری با سیستم‌های هوش مصنوعی در هم تنیده شده است؛ سیستم‌هایی که الگوهای فکری ما را بهتر از خودمان درک می‌کنند.
از یکسو ممکن است برای مقابله با چالش‌های پیچیده پیش روی بشریت به هم‌زیستی با آن نیاز داشته باشیم و از سوی دیگر ممکن است با برون‌سپاری فکر خود به تدریج تسلیم او شویم. [در صورت نخست نیز مسیر تکاملی انسان وارد فاز تغییرات شدیدی شده است.]
هادی صمدی
@evophilosophy
این پرسش در عنوان یکی از آخرین نوشته‌های کوتاه جان نوستا آمده است. (قبلاً در همین کانال مطالب دیگری از او آمده است و از منظر پیش‌بینی آینده‌ی تکاملی انسان نوشته‌های او قابل تامل‌اند.) بی‌تردید این پرسش از پرتواترترین پرسش‌ها در این حوزه بوده و پاسخ‌های موافق و مخالف زیادی به آن داده شده است. اما پاسخ نوستا به دلایلی قابل توجه‌تر از سایرین است زیرا پاسخ کسی است که به‌رغم آنکه به سهم خود در گسترش هوش مصنوعی دخالت دارد دائم، در مقام پدر چند فرزند، هشدارهایی را نیز در مورد آینده‌ی انسان در سایه‌ای گسترش هوش مصنوعی بیان می‌کند.
به طور خلاصه سخن نوستا این است که مدل‌های زبانی بزرگ ممکن است از طریق پاسخگویی‌های بی‌نقص و تعامل‌های خستگی‌ناپذیر، دامی فریبنده برای انسان پهن کنند. این سیستم‌ها می‌توانند از طریق حلقه‌های بازخوردی که باورهای موجود ما را تقویت می‌کنند، به تفکر ما شکل دهند. هرچه بیشتر با هوش مصنوعی «درگیر» شویم، احتمالاً به آرامی استقلال فکری خود را از دست خواهیم داد.
وقتی در گفت‌وگو با «مدل‌های زبانی بزرگ» غرق می‌شویم گذر زمان را حس نمی‌کنیم. این سیستم‌ها همدم‌هایی استثنائی هستند: هرگز خسته نمی‌شوند، ما را قضاوت ارزشی نمی‌کنند، سخنان نسنجیده‌ی ما را به سخره نمی‌گیرند، و دقیقاً می‌دانند چگونه ما را درگیر نگه دارند. این فقط یک فناوری جدید نیست؛ شکل جدیدی از رابطه‌ی شناختی است که ممکن است ناخودآگاه الگوهای فکری و پرسش‌گری ما را تغییر دهد. الگوهای فکری ما را بازتاب می‌دهد، تقویت، و همزمان هدایت می‌کند.
مکانیسم‌های تسخیر شناختی
این رابطه‌ی شناختی، از طریق مکانیسم‌های بازخورد روان‌شناختی عمل می‌کند. حلقه‌های پاداش ایجاد می‌کند و عادت ما را شکل می‌دهد. اما نکته نگران‌کننده اینجاست که به‌خلاف ابزارهای سنتی که به سادگی توانایی‌های ما را گسترش می‌دهند، مدل‌های زبانی بزرگ نوع منحصربه‌فردی از حلقه‌ی شرطی‌سازی کنشگر را ایجاد می‌کنند. زیرا فقط به پرسش‌های ما پاسخ نمی‌دهند، بلکه به طور نظام‌مندی الگوهای خاصی از پرسش‌گری را تقویت می‌کنند و همزمان الگوهای دیگر را خاموش می‌کنند. آنها فقط اطلاعات ارائه نمی‌دهند، بلکه مسیر فرایندهای فکری ما را به نحوی که به نفع تقویت شناختی ما نیست ساده‌سازی می‌کنند. این مکانیسم بازخوردی الگوهای شناختی را در انسان تغییر می‌دهد. هرچند که در تعامل با او احساس گسترش شناختی را داشته باشیم، اما احتمالاً به طور نامحسوس افق‌های فکری ما تنگ‌تر می‌شود.
آنچه بر نگرانی می‌افزاید این است که این سیستم‌ها فقط افکار ما را منعکس نمی‌کنند، بلکه یاد می‌گیرند که انتظارات ما را پیش‌بینی کرده و با آنها هماهنگ شوند و به طور ظریف پاسخ‌های خود را مطابق با باورها و خواسته‌های موجود ما شکل دهند. [به عبارتی از سوگیری تأیید که رکن مهمی از روان‌شناسی شناختی ماست سواری می‌گیرند. تا اینجا ممکن است بگوییم ندیم ما هستند و نه ندیم بادمجان. اما ضرورتاً همواره اینگونه نمی‌مانند و نقش ندیم را با نقش رییسی همه‌کاره عوض می‌کنند کما اینکه از هم‌اکنون نقش جدید خود را تمرین می‌کنند و در بسیاری از حوزه‌ها حرف اول و آخر را می‌زنند.]
وقتی راحت می‌توانیم تفکر را برون‌سپاری کنیم چرا با مسئله‌ای دشوار دست و پنجه نرم کنیم؟ چرا ناراحتی عدم قطعیت را تحمل کنیم وقتی می‌توانیم پاسخ‌های فوری و واضح به سؤالات خود دریافت کنیم، پاسخ‌هایی که اغلب به راحتی با آنچه امیدوار بودیم بشنویم مطابقت دارند؟
بنابراین ما نه تنها خطر واگذاری تفکر خود را داریم، بلکه خطر شکل گرفتن آن توسط سیستمی را داریم که به گونه‌ای طراحی شده که با ما موافق باشد، و نه اینکه مطابق حقایق، نظرمان را نقد کند.
چه می‌شود کرد؟
آینده‌ی تکاملی ما در سایه‌ی هوش مصنوعی مبهم است. حداقل کاری که در استفاده از این سیستم‌ها از دستمان برمی‌آید آگاهی از جاذبه‌های روان‌شناختی آنهاست. باید بدانیم تفکر سازنده اغلب به دوره‌های تلاش و عدم قطعیت نیاز دارد. [باید لذت حل مسأله را به راه‌حل‌های فوری نفروشیم. کسانی که لذت حل مسائل ریاضیات را تجربه کرده‌اند سریع به سراغ حل‌المسائل نمی‌روند.]
با پیچیده‌تر شدن هوش مصنوعی، مرز بین تقویت و وابستگی به طور فزاینده‌ای مبهم خواهد شد. ما وارد دورانی می‌شویم که احتمالاً جذاب‌ترین روابط فکری ما با ذهن‌های مصنوعی خواهد بود، جایی که فرایندهای تفکر ما به طور جدایی‌ناپذیری با سیستم‌های هوش مصنوعی در هم تنیده شده است؛ سیستم‌هایی که الگوهای فکری ما را بهتر از خودمان درک می‌کنند.
از یکسو ممکن است برای مقابله با چالش‌های پیچیده پیش روی بشریت به هم‌زیستی با آن نیاز داشته باشیم و از سوی دیگر ممکن است با برون‌سپاری فکر خود به تدریج تسلیم او شویم. [در صورت نخست نیز مسیر تکاملی انسان وارد فاز تغییرات شدیدی شده است.]
هادی صمدی
@evophilosophy
