این روزها گپ و گفت‌هامون از هوش مصنوعیه، کم و زیاد بلاخره در مورش حرف میزنیم. آسیب‌پذیری‌هایی بحرانی‌ای که این ماه خبرشون رو خوندیم و نخوندیم و شایدم از وجودشون بیخبریم، همچنان نگرانی وضعیت برخی شغل‌ها، اطلاعات جعلی و دیپ‌فیک، وابستگی بیش از حد به AI، بحث تاثیر عجیب الگوریتم‌ها، و اینکه ماشینی شدن چقدر داره تو زندگی‌هامون تاثیر میذاره، جامعه، اقتصاد، دموکراسی، سیاست…
ولی یه موضوع دیگه هم هست که باید درباره‌ش حرف زد: رابطه‌های انسانی و هوش مصنوعی.
فرض کنین سال‌هاست با یکی دوستین، شما شناخت تقریبن خوبی از دوست‌تون دارید و طرف هم شما رو میشناسه، از زندگی همدیگه خبر دارین، خاطره مشترک دارین و کلی دوستی خب.
حالا یه روز دارین با همین دوست‌تون گپ می‌زنین تو مسنجری، از یه اتفاق شخصی میگین و یه جوابی می‌گیرین که اصلن انتظارش رو ندارین. میتونه جواب کاملن تعجب برانگیز باشه شبیه اینکه گویا این آدم اصلن شما رو نمیشناسه، شاید جواب اتفاقن خیلی هم درست/منطقی نوشته شده باشه، ولی یه چیزی توش عجیبه. انگار کسی که جواب داده، اون آدمی نیست که سال‌ها می‌شناختین.
خب چه اتفاقی افتاده؟ شاید دوست‌تون حواسش پرت بوده، شاید درست متوجه حرف‌تون نشده، شاید هم اون خاطره‌ای رو که تعریف کردین یادش نمیاد و هزارتا شاید دیگه. اما این روزها یه احتمال دیگه هم وجود داره: شاید اصلن این جواب رو خودش ننوشته باشه! شاید هوش مصنوعی نوشته باشه.
و اینجاست که یه سوال جالب پیش میاد، البته چندین سوال پیش میاد که همینطوری می‌ریم جلو. وقتی با دوستمون حرف میزنیم، آیا حق داریم انتظار داشته باشیم که اون طرف گفتگو واقعن خودشه؟
اصلن و ابدن منظورم این نیست که استفاده از هوش مصنوعی کار بدیه. اتفاقن خودم از هوش مصنوعی به شکل قشنگی استفاده میکنم، همون طرح معلم شخصی حضرت آسیموف رو برای خودم آماده کردم و لذت می‌برم و در شغل‌م هم که به شکل درست و اصولی‌ای ازش استفاده میکنم. البته همیشه در مورد تهدیدها و خطرات‌ش می‌خونم. حالا، برگردیم سر داستان خودمون، چت دوستانه; یه تفاوتی وجود داره بین اینکه از هوش مصنوعی بخوای غلط‌های نوشته‌ات رو اصلاح کنه، یا کل حرف زدن با دوست‌ت رو بسپری دستش.
وارد سوال «به کی میگیم دوست ماست» نمی‌شم، ولی به هر کسی بگیم دوست‌مونه، یعنی بهش اعتماد میکنیم، تا حدی اعتماد میکنیم. وقتی اعتماد میکنیم چی میشه؟ آسیب‌پذیر میشیم، تاثیر می‌گیریم، ریسک می‌پذیریم و …
حالا فرض کنیم دوست ما از هوش مصنوعی برای جواب دادن به پیام‌ها استفاده میکنه، یه سری تغییرات شکل میگیره دیگه – و این هم می‌دونیم که ایجنت‌ها Memory دارند دیگه، کسی میتونه کل چیزی که از دوستش می‌دونه رو بده به حافظه اون ایجنت که شناختی ازش داشته باشه. حالا با این حساب جواب‌ها میتونه سنجیده هم باشه ولی نه همیشه- برگردیم سراغ تغییرات:
شاید بتونه جوابهای بهتری پیدا کنه بده – تواناییش در جواب دادن رو نمي‌خوام زیر سوال ببرم.
شاید بتونه بیشتر کمک کنه، چون هوش مصنوعی شاید بهتر از دوستم بتونه یه چیزهایی رو ارزیابی کنه و جوابی که میده برای من بهتر باشه- این منطقیه، حتا اگر من بگم ۱۰۰ سال سیاه نمی‌خوام دوستم بهم کمک هوش مصنوعی رو در جواب بده.
اما آیا درست و اخلاقی هم هست؟ ممکنه من با این تصور حرف بزنم که دارم با خود این آدم گپ می‌زنم، در حالی که بخش مهمی از گپ رو یه ماشین داره انجام میده. آیا این درسته؟ فرض رو بر این بذاریم که دوستم اصلن به من اطلاع نداده که داره از هوش مصنوعی برای گپ دوستانه استفاده مي‌کنه. چرا اصلن مهمه؟ شاید به دلیل اینکه در روابط دوستانه ما انتظار شنیده شدن و درک و فهم از طرف مقابل داریم، و به عکس.
خیلی خب، فرض کنین یه روز خیلی بد داشتین. به دوست‌تون میگین چه اتفاقی افتاده و چقدر ناراحتین. دوست‌تون ممکنه یه جواب خیلی ساده بده. مثلن چه می‌دونم : وای، می‌فهمم چی میگی، یادته دو ماه پیش هم همچین چیزی شده بود؟ یا یادته برای فلانی هم این اتفاق افتاده بود…. همین که احساس کنین طرف حرف‌تون رو فهمیده، میتونه براتون مهم باشه. البته بستگی داره به خیلی چیزها، میزان صمیمیت و عمق دوستی – و صمیمت و عمق یک دوستی بیشتر به احساسی است که منتقل میشه، نه به حجم اطلاعات، چون دکترمون احتمالن اطلاعات بیشتری از ما داره، نسبت به خیلی دوستانمون…
خب اگر به انتقال احساسات مربوط بشه، و اگر به جای دوستمون یه ماشین بتونه جوابی تولید کنه که باعث بشه من و شما احساس کنیم شنیده شدیم یا درک شدیم، آیا کافیه و اشکالی نداره؟ یعنی اگر دوستمون پیغام‌ها رو بخونه و جواب رو بسپاره به هوش مصنوعی اوکیه؟ چون شنیده دیگه، پس این اوکیه؟ اما اگر خودش حتا پیغام‌ها رو نخونه و کلن بیخبر باشه از اینکه بین ما و هوش مصنوعی چی داره میگذره چی؟ حالا، سوال دیگه آیا اگر بدونیم این جوابهای با احساس رو هوش مصنوعی نوشته از طرف دوستی و یا ندونیم اینو ، این «احساس شنیده شدن/صمیمیت» تغییری میکنه؟
تازه یک سوال دیگه میاد وسط: پس حریم شخصی این وسط چی میشه؟ برگردیم به مثال: ما به دوستمون یک خاطره شخصی رو تعریف میکنیم، دوستمون هم، فرض کنیم، مسنجرش رو وصل کرده به یک ربات و سرویس هوش مصنوعی‌ای، پیغام‌ها در واقع میره به هوش مصنوعی و اون جواب رو برمی‌گردونه به ما… حالا چی؟ ما اعتماد میکنیم، چون رابطه دوستی است، اما اطلاعات‌مون به سرویسی میره که ازش بیخبریم! حالا این سرویس لوکال بوده روی ماشین دوستمون، یا اینکه سرویس کلاود است و اینجا یک رابط دیگه هم اضافه میشه که پیام‌های ما رو آنالیز میکنه و احتمالن برای یادگیری هم ازش استفاده میکنه، و ما ازش بیخبر بودیم.. شبیه اینکه دوباره چیزی رو به دوستمون که بهش اعتماد داریم، میگیم و اون بدون اینکه اطلاع بده بهمون به کسی دیگه میگه… این دو فرقی با هم ندارن.
در کل، ما وقتی با دوستی حرف میزنیم، دنبال چی هستیم؟ دنبال جواب، جواب درست، یا دنبال حضور یک انسان؟ حقیقتن، جواب درست خیلی چیزها رو که می‌دونیم، این روزها خیلی راحت از جاهای زیادی بدست میاریم، بی‌دردسر و سریع و آنی و احتمالن دقیق‌تر. پس داستان «جواب» نیست. ارزش زمان گذاشتن‌ه؟ هوش مصنوعی زمانی نداره که بهم بده، ولی اون آدم زمانی داره! ما دنبال زمان آدم‌‌ها که نیستیم… بحث حضور یک انسانی است که درک و حس دو طرفه وجود داره، در غیر اینصورت هیچ ارزشی نداره.
داریم با پیامم گپ میزنیم در این مورد، یاد فیلم watchmen افتادیم، عجب داستانی، با عرض ارادت خدمت آقامون رورشاک :***
در پایان هم امیدوارم که همچین دوستی‌‌ای رو تجربه نکنیم، و بذاریم دوستی‌ها به شکل انسانی باقی بمونن.