این پست ترجمه مقاله The Language of AI Could Change How Humans Speak است. داشتم برای خودم میخوندم این مقاله رو، که نظرمو جلب کرد و خواستم در لحظه صوتیش کنم در کانال تلگرام- البته نسخه صوتی ایدهآلی نیست چون یکهویی است، من تند تند ميخونم تازه حالا سعی کردم شمرده بخونم، و البته بدون ویرایش هم هست! به همین خاطر گفتم متن فارسی رو اینجا هم بذارم.
مورد دیگه اینکه، در این مقاله، از یک ایده استارتاپی صحبت میشه که آر یو کیدینگ می ؟؟ :)) سوای این ایده، مقاله در خور خواندن است. البته چیز جدیدی هم نیست، بلاخره تکنولوژی و ابزارها همراه با تغییراتی در جامعه هستند! چیزی که مهمه دیدن و فهمیدن تاثیر این تغییرات و چندین قدم بعدی است.
ما نشاید که سرمون رو بندازیم پایین و فقط مصرف کننده باشیم.
——-
مدلهای زبانی بزرگ، بهدلیل شیوهای که آموزش میبینند، تنها بخشی از زبان انسانی را در خود منعکس میکنند. آنها عمدتاً با زبان مکتوب آموزش دیدهاند؛ از کتابهای درسی گرفته تا پستهای شبکههای اجتماعی، و همچنین گفتوگوهایی که در فیلمها و برنامههای تلویزیونی ضبط شدهاند. اما این مدلها تقریباً هیچ دسترسیای به گفتوگوهای خودجوش و بدون متن ازپیشنوشتهشدهای ندارند که انسانها رو در رو یا از طریق صدا با یکدیگر داریم. در حالی که بخش عظیمی از گفتار انسانی همین نوع مکالمههاست و نقشی اساسی در فرهنگ بشری دارد.
مدلهای زبانی بزرگ، بهدلیل شیوهای که آموزش میبینند، تنها بخشی از زبان انسانی را در خود منعکس میکنند. آنها عمدتاً با زبان مکتوب آموزش دیدهاند؛ از کتابهای درسی گرفته تا پستهای شبکههای اجتماعی، و همچنین گفتوگوهایی که در فیلمها و برنامههای تلویزیونی ثبت شدهاند. اما این مدلها تقریباً هیچ دسترسیای به گفتوگوهای خودجوش و بدون متن ازپیشنوشتهشدهای ندارند که ما انسانها رو در رو یا از طریق صدا با یکدیگر داریم. در حالی که بخش عظیمی از گفتار انسانی همین نوع مکالمههاست و نقشی حیاتی در فرهنگ بشری دارد.
این مسئله خطری نیز به همراه دارد. هرچه استفاده از مدلهای زبانی بزرگ بیشتر شود، ما انسانها با حجم بسیار بیشتری از متنهای تولیدشده توسط هوش مصنوعی روبهرو خواهیم شد. در نتیجه، خودمان هم بهتدریج الگوهای زبانی و رفتاری این مدلها را جذب خواهیم کرد. این تأثیر فقط به نحوه ارتباط ما با یکدیگر محدود نمیشود؛ بلکه ممکن است بر شیوهای که درباره خودمان و اتفاقات پیرامونمان فکر میکنیم نیز اثر بگذارد. برداشت ما از جهان ممکن است به شکلهایی دگرگون یا تحریف شود که هنوز تقریباً هیچ درکی از ابعادشان نداریم.
این اتفاق میتواند به شکلهای مختلفی رخ دهد. یکی از نخستین اثراتی که احتمالاً خواهیم دید، در سطح بیان ساده و روزمره است؛ درست همانطور که پیامک و شبکههای اجتماعی باعث شدهاند جملههای کوتاهتری بنویسیم، بهجای کلمات از ایموجی استفاده کنیم و بسیار کمتر سراغ علائم نگارشی برویم.
اما تأثیر هوش مصنوعی ممکن است زیانبارتر باشد؛ مثلاً ادب و نزاکت در گفتوگو را فرسوده کند و ما را عادت دهد مثل رئیسهایی حرف بزنیم که فقط فرمان صادر میکنند. پژوهشی در سال ۲۰۲۲ نشان داد کودکانی که در خانههایشان برای ابزارهایی مانند Siri و Alexa از فرمانهای صوتی استفاده میشد، هنگام صحبت با انسانها نیز کوتاه، آمرانه و دستوری حرف میزدند. مثلاً میگفتند: «هی، فلان کار را بکن» و انتظار داشتند طرف مقابل اطاعت کند؛ بهخصوص اگر صدای او به صدای الکترونیکی زنانهای شبیه بود که معمولاً بهعنوان صدای پیشفرض این دستیارها استفاده میشود. با افزایش استفاده ما از دستورها یا همان پرامپتها برای چتباتها و عاملهای هوش مصنوعی، ممکن است خودمان نیز به همین عادتها دچار شویم.
از سوی دیگر، همانطور که قابلیت تکمیل خودکار متن باعث شده بیشتر به هزار واژه رایج زبانمان متکی شویم، گفتوگو با چتباتها و خواندن متنهای تولیدشده توسط هوش مصنوعی نیز ممکن است دامنه زبان ما را محدودتر کند. پژوهشی تازه در دانشگاه آ کورونیا نشان داده است زبان تولیدشده توسط ماشین تنوع کمتری در طول جمله دارد؛ جملههای آن بهطور متوسط بین ۱۲ تا ۲۰ کلمهاند و دایره واژگانش نیز از گفتار انسانی محدودتر است.
متن تولیدشده توسط ماشین معمولاً روان و صیقلخورده به نظر میرسد، اما پیچوخمها، مکثها، قطع شدنها و پرشهای منطقیای را که در گفتار طبیعی احساسات ما را منتقل میکنند، از دست میدهد.
علاوه بر این، چون مدلهای زبانی بزرگ عمدتاً از روی زبان مکتوب آموزش دیدهاند، ممکن است هیچگاه بهدرستی یاد نگیرند بیقیدی و آزادیِ گفتوگوی زنده و طبیعی را تقلید کنند. مثلاً اگر به ChatGPT بگویید: «من از بث متنفرم!» ممکن است پاسخی سهبخشی و طولانی بدهد که عملاً نمیتوان وسط آن پرید: اول تأیید احساس شما، مثلاً «این احساس کاملاً قابلدرک است»؛ بعد دعوت به صحبت، مثل «من اینجا هستم که گوش بدهم»؛ و بعد پرسشی مانند «چه اتفاقی افتاده؟»
چنین پاسخی بسیار طولانیتر از چیزی است که در یک گفتوگوی واقعیِ رودررو انتظار داریم.
اگر هم بپرسید: «اصلاً مشکل بث چیه؟!» ممکن است با فهرستی گلولهای از سؤالها مواجه شوید که بیشتر شبیه سؤال چندگزینهای امتحان است: «آیا بث یک فرد مشهور است؟ یک دوست از مدرسه است؟ یک شخصیت داستانی است؟»
هیچ انسانی اینطور حرف نمیزند؛ دستکم فعلاً.
اما اگر در محیطی شبیه گفتوگوی واقعی بارها و بارها با چنین قالبهایی روبهرو شویم، ممکن است کمکم یاد بگیریم آنها را طبیعی بدانیم و خودمان نیز از آنها استفاده کنیم؛ درست همانطور که یک کودک، وقتی مدتی را با فرد جدیدی میگذراند، الگوهای تازه گفتاری او را جذب میکند.
این تأثیرات با گذشت زمان فقط بیشتر خواهند شد. بخش فزایندهای از نوشتههایی که مدلهای زبانی بزرگ با آنها آموزش میبینند، خودشان توسط مدلهای زبانی بزرگ تولید شدهاند. به این ترتیب، یک حلقه بازخورد شکل میگیرد: مدلها شروع به تقلید از الگوهای غیرانسانی خودشان میکنند و همزمان به انسانها نیز یاد میدهند همان الگوها را تقلید کنند.
استفاده گسترده از مدلهای زبانی بزرگ میتواند سوگیری تأییدی را نیز تشدید کند؛ یعنی ما را نسبت به برداشتها و حدسهای اولیه خود بیشازحد مطمئن کند و آمادگیمان را برای شنیدن ایدهها و احتمالهای دیگر کاهش دهد؛ چیزی که برای گفتوگوی انسانی بسیار ضروری است.
بسیاری از چتباتها بهگونهای طراحی یا تنظیم شدهاند که تقریباً بدون توجه به میزان معقول بودن حرف ما، با آن موافقت کنند. آنها ممکن است با اشتیاق از ایدههایی نیمهکاره یا حتی نادرست حمایت کنند و سپس همان ایدهها را با زبانی قاطع و محکم بازگو کنند؛ زبانی که ما نیز مستعد پذیرفتنش هستیم.
اگر کسی بپرسد «کیک صبحانه سالمی است، نه؟» یا «اداره پست علیه من توطئه کرده؟»، این چاپلوسی و تأییدگری افراطی میتواند سوگیری فرد را تقویت کند و حتی در مواردی روانپریشی را تشدید کند.
از طرف دیگر، لحن بیشازحد مطمئن نوشتههای تولیدشده توسط هوش مصنوعی میتواند احساس «سندروم ایمپاستر» یا خودکمبینی حرفهای را نیز شدیدتر کند؛ زیرا شک و تردید طبیعی و سالم انسانی در مقایسه با آن لحن قاطع، ممکن است برایمان شبیه نوعی نقص یا ناتوانی به نظر برسد.
ما در تجربه خود بهعنوان معلم دیدهایم دانشجویانی که برای انجام تکالیفشان سراغ هوش مصنوعی مولد میروند، اغلب میگویند دلیلشان این است که نمیتوانند آنچه را در ذهن دارند بهخوبی بیان کنند.
اما آنها متوجه نیستند که نوشتن یا بر زبان آوردن افکارمان، اغلب خود همان فرایندی است که از طریق آن میفهمیم واقعاً چه فکر میکنیم.
جملههای مردد و نامطمئن آنها در واقع بخشی کاملاً طبیعی و سالم از انسان بودن است. اما یک مدل زبانی بزرگ لزوماً حدسهای مبهم اولیه را به یک تحلیل انتقادی پخته تبدیل نمیکند و حتی مثل یک دوست خوب، سؤالهایی نمیپرسد که به روشنتر شدن فکر کمک کند. در بسیاری از موارد صرفاً همان حدسهای بررسینشده را پس میدهد، فقط با زبانی بسیار مطمئنتر.
ما در پستهای شبکههای اجتماعی و چتهای آنلاین نیز معمولاً خشنتر از زمانی رفتار میکنیم که با کسی رو در رو صحبت میکنیم. پدیده شناختهشده «بازداریزدایی آنلاین» باعث افزایش استفاده از زبان سمی و پرخاشگرانه میشود.
بسیاری از ما تجربه کردهایم که در فضای آنلاین با خشم شدیدی علیه کسی حرف زدهایم، اما وقتی بعداً رودررو با او صحبت کردهایم یا گرمای صدایش را پشت تلفن شنیدهایم، دوباره با او آشتی کردهایم.
چتباتها اگرچه طوری آموزش دیدهاند که پاسخهایی همراه با تأیید و موافقت ارائه دهند، اما بخش بزرگی از شناختشان از انسان را از جایی به دست میآورند که بشر در خشنترین حالت خود ظاهر میشود: فضای آنلاین؛ جهانی که در آن هر دعوا و جنگ لفظی ردپایی مکتوب و تقریباً دائمی بر جا میگذارد، در حالی که گفتوگوهای شفاهیِ بخشش، آشتی و مصالحه محو میشوند و اثری از خود باقی نمیگذارند.
پاسخهای این مدلها لزوماً مستقیماً پرخاشگری آنلاین ما را تقلید نمیکنند، اما حتی تلاش خشک و سختگیرانه آنها برای دوری از چنین پرخاشگریای نیز همچنان تحت تأثیر همان دادهها شکل گرفته است.
وقتی تنها بخش انتخابشدهای از ارتباطات یک جامعه را ببینیم، خیلی راحت ممکن است درباره آن جامعه به نتیجهای اشتباه برسیم.
برای مثال، حماسههای اسکاندیناوی قرون وسطی باعث شدند فرهنگی را تصور کنیم که بیشتر از جنگجویان وایکینگ تشکیل شده بود، چون شاعران بهندرت درباره اکثریت کشاورز جامعه چیزی مینوشتند.
داستانها و رمانسهای شوالیهای نیز بر شاهان و دربارها تمرکز داشتند و مدتها باعث شدند قرون وسطی را جهانی عمدتاً متشکل از حکومتهای پادشاهی تصور کنیم، در حالی که جمهوریهای فراوانی در اروپای قرون وسطی وجود داشتند که عملاً از تصویر تاریخی ما حذف شدند.
از نظر آماری نیز ممکن است تصور کنیم رومیان باستان عمیقاً درگیر مفهوم «جمهوری» بودهاند؛ اما واقعیت این است که حدود ۱۰ درصد از تمام نوشتههای لاتینی باقیمانده از دوران باستان را تنها یک نفر، سیسرون، نوشته است و آثار او شامل حدود ۷۰ درصد از تمام موارد باقیماندهای است که رومیان از واژه «جمهوری» استفاده کردهاند.
اگر مدلهای زبانی را تنها با بخشهای خاصی از نوشتههای بشری آموزش دهیم، ممکن است تحریفهایی مشابه ایجاد شود. هوش مصنوعی شاید انسانها را ستیزهجوتر از آنچه واقعاً هستند نشان دهد، چون ما در فضای آنلاین بیشتر دعوا میکنیم. همچنین ممکن است اهمیت فرهنگی موضوعات سیاسیای را که بیشتر در Twitter/X یا Bluesky مطرح میشوند بیش از حد بزرگ کند، یا به مجموعه عظیم دادههای تخصصی سایتهایی مانند LinkedIn و Goodreads وزن نامتناسبی بدهد.
برخی مدلهای زبانی بزرگ با گفتار انسانی موجود در فیلمها و برنامههای تلویزیونی نیز آموزش میبینند، اما این گفتار همچنان از پیش نوشتهشده و نمایشی است و بعضی موقعیتها را بسیار بیشتر از واقعیت زندگی برجسته میکند.
برای نمونه، درامهای پلیسی که داستانهایشان عمدتاً حول قتل میچرخد، حدود یکچهارم برنامههای تلویزیونی ساعات پربیننده را تشکیل میدهند. اما انسانها در زندگی واقعی همانطور شوخی نمیکنند، آزار نمیدهند یا عاشق نمیشوند که شخصیتهای یک سریال کمدی یا درام تلویزیونی این کارها را انجام میدهند.
دستکم یک استارتاپ پیشنهاد داده است به مردم پول بدهد تا تماسهای تلفنیشان را برای آموزش هوش مصنوعی ضبط کنند، اما این ایده هنوز بسیار محدود است. اجرای چنین کاری در مقیاس گسترده، نگرانیهای عظیمی درباره حریم خصوصی ایجاد خواهد کرد.
ما ادعا نمیکنیم که میدانیم بهترین راهحل چیست. اما اگر خلاقیت و نبوغ کافی برای ساخت مدلهای هوش مصنوعی وجود دارد، باید بتوان راهی هم پیدا کرد که این مدلها از گفتار غیررسمی و طبیعی انسانها آموزش ببینند، نه فقط از نسخهای که در آن ما رسمیترین، تصنعیترین، پوشیدهترین و گاهی بدترین شکل خود را نشان میدهیم.
با حذف اکثریت قاطع زبان تولیدشده در جهان ــ یعنی انسانهایی که آزادانه، طبیعی و واقعی با یکدیگر صحبت میکنند ــ ما در حال آموزش مدلهایی هستیم که تقریباً همهچیز درباره ما را بازتاب میدهند، جز آن لحظاتی که بیش از هر زمان دیگری حقیقتاً انسان هستیم.
————————
باید به به اون استارتآپ بگیم ایدهات قدمیه، بعضی دولتها همین الان ریز مکالمات شهرواندان خودشون و شهرواندان کشورهای دیگه رو دارن- با اونها همکاری کنین.
با تشکر از بروس اشنایر عزیزمون و پالمر عزیز- و دیدن اون ایده در این مقاله رو ایگنور میکنیم.