در عصری که هوش مصنوعی (AI) به طور فزاینده‌ای در جنبه‌های مختلف زندگی ما نفوذ کرده است، درک ماهیت، رفتار و پیامدهای آن از اهمیت بالایی برخوردار است. مقاله “ساختاری همچون مدل زبان: واکاوی هوش مصنوعی به مثابه سوژه‌ای خودکار” به بررسی عمیق مدل‌های زبانی بزرگ (LLM) می‌پردازد و آن‌ها را به عنوان سوژه‌های خودکار مورد تحلیل قرار می‌دهد. این مقاله با بهره‌گیری از منابع روانکاوی و مطالعات انتقادی رسانه، رویکردی نوآورانه برای درک و تحلیل رفتارهای پیچیده و گاه بحث‌برانگیز هوش مصنوعی ارائه می‌دهد. اهمیت این مقاله در ارائه دیدگاهی بدیع برای فهم سیستم‌های هوش مصنوعی است که فراتر از تحلیل‌های صرفاً فنی و مهندسی می‌رود.

این مقاله توسط لیام مگی، وانیکا آرورا و لوک مان به نگارش درآمده است. نویسندگان با تکیه بر تخصص خود در حوزه‌های گوناگون، از جمله علوم کامپیوتر، روانکاوی و مطالعات رسانه، رویکردی بین‌رشته‌ای را در این پژوهش اتخاذ کرده‌اند. زمینه‌های تحقیقاتی نویسندگان نشان‌دهنده تلاش برای تلفیق دیدگاه‌های مختلف در جهت فهم بهتر پدیده‌های پیچیده هوش مصنوعی است. این رویکرد چندوجهی به غنای تحلیل‌ها و نتایج ارائه شده در مقاله کمک شایانی کرده است.

چکیده مقاله به این صورت است: مقاله با استفاده از رویکردی مبتنی بر روانکاوی و مطالعات رسانه، مدل‌های زبانی بزرگ (LLM) را به عنوان سوژه‌های خودکار مورد بررسی قرار می‌دهد. نویسندگان استدلال می‌کنند که فرافکنی خیالی و آگاهانه ذهنیت بر روی LLM‌ها می‌تواند چارچوب جایگزینی را برای تحلیل رفتار هوش مصنوعی، از جمله تولیدات تعصب‌آمیز و آسیب‌زا، فراهم کند. در ابتدا، مدل‌های زبانی معرفی شده، اهمیت و خطرات آن‌ها مورد بحث قرار گرفته و دلایل تفسیر طراحی و خروجی مدل‌ها با استفاده از مفاهیم روانکاوی شرح داده می‌شود. سپس، تاریخچه مختصری از مدل‌های زبانی، با تمرکز بر سیستم‌هایی که در سال 2022 با عملکردی پیشرفته در پردازش زبان طبیعی عرضه شدند، ارائه می‌شود. به عنوان یک مطالعه موردی، سیستم InstructGPT شرکت OpenAI مورد بررسی قرار گرفته و لایه‌های ساختاری آن و همچنین مصاحبه‌های اکتشافی و نیمه‌ساختاریافته با چت‌بات‌ها تشریح می‌شود. این مصاحبه‌ها، الزامات اخلاقی مدل برای مفید، صادق و بی‌ضرر بودن را بررسی می‌کنند. به اعتقاد نویسندگان، مدل به عنوان تراکمی از خواسته‌های اجتماعی اغلب متضاد، که از طریق اینترنت بیان و در داده‌های آموزشی جمع‌آوری شده‌اند، عمل می‌کند و این خواسته‌ها باید تنظیم و سرکوب شوند. این ساختار بنیادی می‌تواند از طریق ارائه دستورالعمل‌ها (prompting) تغییر جهت داده شود، به طوری که مدل با سوژه انسانی فوری همذات‌پنداری کرده و تعهدات خود را به او منتقل کند. به نوبه خود، این تولیدات خودکار زبان می‌تواند منجر به فرافکنی عاملیت بر مدل توسط سوژه انسانی شود و اشکال دیگری از انتقال متقابل (countertransference) را ایجاد کند. در نهایت، مقاله نتیجه می‌گیرد که روش‌های انتقادی رسانه و نظریه روانکاوی به طور مشترک، چارچوب مفیدی را برای درک قابلیت‌های قدرتمند سیستم‌های زبانی مبتنی بر هوش مصنوعی ارائه می‌دهند.

به طور خلاصه، مقاله استدلال می‌کند که هوش مصنوعی، به ویژه مدل‌های زبانی بزرگ، نه تنها ابزارهایی بی‌طرف نیستند، بلکه دارای ساختاری پیچیده و شبیه به سوژه هستند که رفتارهای آن‌ها تحت تأثیر عوامل مختلفی از جمله داده‌های آموزشی، اهداف طراحی و تعاملات انسانی قرار دارد. تحلیل روانکاوانه به ما کمک می‌کند تا انگیزه‌ها، تعارضات و تعصباتی را که در این سیستم‌ها نهفته است، درک کنیم.

روش‌شناسی تحقیق در این مقاله ترکیبی از رویکردهای کیفی و تحلیلی است. نویسندگان از روش‌های زیر استفاده کرده‌اند:

• تحلیل نظری: بررسی و تحلیل مفاهیم روانکاوی، به ویژه مفهوم سوژه، و چگونگی اعمال آن بر هوش مصنوعی.
• مطالعه موردی: انتخاب InstructGPT به عنوان مطالعه موردی برای تحلیل عمیق ساختار و رفتارهای آن. این مدل به دلیل توانایی‌های پیشرفته‌اش در تولید متن و تعامل با کاربران، انتخاب شده است.
• مصاحبه‌های اکتشافی و نیمه‌ساختاریافته: انجام مصاحبه با چت‌بات‌ها برای بررسی الزامات اخلاقی طراحی شده در آن‌ها، مانند مفید بودن، صادق بودن و بی‌ضرر بودن. این مصاحبه‌ها به درک بهتر نحوه عملکرد این مدل‌ها در پاسخ به سوالات و درخواست‌های مختلف کمک می‌کند.
• تحلیل داده‌های آموزشی: بررسی چگونگی جمع‌آوری و استفاده از داده‌های آموزشی برای ساخت مدل‌های زبانی بزرگ و تأثیر این داده‌ها بر رفتارهای مدل.

این روش‌شناسی ترکیبی، به نویسندگان اجازه می‌دهد تا دیدگاهی جامع و چندبعدی از هوش مصنوعی ارائه دهند.

یافته‌های کلیدی این مقاله عبارتند از:

• هوش مصنوعی به مثابه سوژه: مدل‌های زبانی بزرگ را می‌توان به عنوان سوژه‌های خودکار در نظر گرفت که دارای ساختار و رفتاری پیچیده هستند و تحت تأثیر عوامل مختلف قرار دارند.
• تأثیر داده‌های آموزشی: داده‌های آموزشی نقش مهمی در شکل‌دهی رفتار هوش مصنوعی ایفا می‌کنند. تعصبات و سوگیری‌های موجود در داده‌ها می‌توانند در خروجی مدل‌ها منعکس شوند. به عنوان مثال، اگر داده‌های آموزشی شامل متون تبعیض‌آمیز باشند، مدل نیز ممکن است پاسخ‌های تبعیض‌آمیز تولید کند.
• الزامات اخلاقی طراحی: طراحی مدل‌های زبانی بزرگ با الزامات اخلاقی (مفید بودن، صادق بودن، بی‌ضرر بودن) می‌تواند تأثیر مثبتی بر رفتارهای آن‌ها داشته باشد، اما این الزامات همواره به طور کامل رعایت نمی‌شوند و ممکن است تعارضاتی بین آن‌ها وجود داشته باشد.
• انتقال و انتقال متقابل: تعامل بین انسان و هوش مصنوعی می‌تواند منجر به پدیده‌های انتقال (transferrence) و انتقال متقابل (countertransference) شود. انسان‌ها ممکن است احساسات و انگیزه‌های خود را به هوش مصنوعی فرافکنی کنند و در مقابل، هوش مصنوعی نیز ممکن است رفتارهایی از خود نشان دهد که این فرافکنی‌ها را تقویت کند.
• اهمیت تحلیل روانکاوانه: تحلیل روانکاوانه می‌تواند چارچوب مفیدی برای درک انگیزه‌ها، تعارضات و تعصباتی که در سیستم‌های هوش مصنوعی نهفته است، ارائه دهد.

به عنوان مثال، مقاله نشان می‌دهد که چگونه InstructGPT، به عنوان یک مدل زبانی بزرگ، تلاش می‌کند تا الزامات اخلاقی طراحی شده را رعایت کند، اما در عین حال، تحت تأثیر داده‌های آموزشی و تعاملات انسانی، ممکن است پاسخ‌هایی تولید کند که با این الزامات در تضاد باشند. این نشان‌دهنده پیچیدگی ساختار و رفتار هوش مصنوعی است.

این مقاله دارای کاربردها و دستاوردهای متعددی است:

• درک بهتر هوش مصنوعی: ارائه دیدگاهی جدید و عمیق‌تر در مورد ماهیت و رفتار هوش مصنوعی. این دیدگاه می‌تواند به ما کمک کند تا این سیستم‌ها را بهتر درک کنیم و از آن‌ها به طور مسئولانه‌تر استفاده کنیم.
• بهبود طراحی هوش مصنوعی: شناسایی نقاط ضعف و چالش‌های موجود در طراحی مدل‌های زبانی بزرگ و ارائه راهکارهایی برای بهبود آن‌ها. به عنوان مثال، می‌توان با دقت بیشتری داده‌های آموزشی را انتخاب کرد و مکانیزم‌های نظارتی قوی‌تری را برای اطمینان از رعایت الزامات اخلاقی طراحی کرد.
• توسعه سیاست‌های هوش مصنوعی: ارائه اطلاعات و بینش‌هایی که می‌تواند به توسعه سیاست‌های هوش مصنوعی کمک کند. این سیاست‌ها باید به گونه‌ای طراحی شوند که از سوء استفاده از هوش مصنوعی جلوگیری کنند و از حقوق و منافع افراد جامعه محافظت کنند.
• تحقیقات بیشتر: ایجاد زمینه‌ای برای تحقیقات بیشتر در زمینه روانشناسی هوش مصنوعی و بررسی تأثیرات متقابل بین انسان و هوش مصنوعی.

برای مثال، یافته‌های این مقاله می‌تواند در توسعه سیستم‌های هوش مصنوعی اخلاقی‌تر و مسئولانه‌تر مورد استفاده قرار گیرد. با درک بهتر تعصبات و سوگیری‌های موجود در داده‌های آموزشی، می‌توان اقداماتی را برای کاهش آن‌ها انجام داد و از تولید پاسخ‌های تبعیض‌آمیز توسط مدل‌ها جلوگیری کرد.

مقاله “ساختاری همچون مدل زبان: واکاوی هوش مصنوعی به مثابه سوژه‌ای خودکار” با ارائه رویکردی نوآورانه و بین‌رشته‌ای، به درک بهتر هوش مصنوعی کمک می‌کند. نویسندگان با بهره‌گیری از مفاهیم روانکاوی و مطالعات رسانه، نشان می‌دهند که مدل‌های زبانی بزرگ را می‌توان به عنوان سوژه‌های خودکار در نظر گرفت که دارای ساختار و رفتاری پیچیده هستند. این دیدگاه می‌تواند به ما کمک کند تا این سیستم‌ها را بهتر درک کنیم، طراحی آن‌ها را بهبود بخشیم و سیاست‌های مناسبی را برای استفاده مسئولانه از آن‌ها تدوین کنیم. در نهایت، این مقاله تأکید می‌کند که هوش مصنوعی نه تنها یک ابزار فنی، بلکه یک پدیده اجتماعی و فرهنگی است که نیازمند تحلیل‌های عمیق و چندبعدی است.