اولین بارم است درباره « روز دوستی » در وبسایتم مینویسم. اوممم، چطور شروع کنم؟ با یک خاطره از روز اول دبستانم- ۷ سالگی.
روز اول مدرسه بود، تهران بودیم با مامانی رفتیم مدرسه. کنار مامانم تو حیاط ایستاده بودم و مامانم دستم رو گرفته بود. به مامانم گفتم شما برید خونه دیگه، من نميترسم. مامانم گفت نه تنها نمیذارمت هستم اینجا. رفتم پیش یه دختری که اونم واستاده بود پیش مامانش، بهش گفتم : سلام 🙂 ، میخوای با هم دوست بشیم؟ گفت آره 🙂 دستمو دارز کردم، دستمو رو گرفت و گفتم دوستیم . دستشو گرفتم آوردم پیش مامانیم گفتم مامانی این دوستمه، تنها نیستم، شما دیگه برید خونه. قیافه اون دوستم هنوز جلوی چشمامه، لبخند داشت، دندون جلوش هم یکیش نبود، چشمهاش روشن بود و موهاش فرفری قهوهای روشن که از کنارهای مقنعهاش زده بود بیرون، لپهاش هم گل انداخته :)وقتی کلاسها رو مشخص کردن اون دوستم رفت تو کلاس دیگهای، ما با هم همکلاس نشدیم، و دوستیمون همونجا تموم شد. 🙂
چقدر احتمال داره اون دوستم منو یادش مونده باشه؟ و تازه این پست رو بخونه؟ پوووف 🙂 براش آرزوی دوستیهای قشنگ میکنم. الان فردا پسفردا یکی پیغام میده که من همونم، چشمهام و دندونم و موهام یادته؟ یه عکس هم از خودش میفرسته :))))))
خلاصه، یکی از با ارزشترین چیزهایی که آدم ميتونه داشته باشه دوسته، حالا بماند که تعریف از دوستیها چیه، یکی فکر میکنه دوست کسی است که بهش کتاب بده، یکی فکر میکنه دوست کسی هست که کارش ور راه بندازه و باهاش خوش بگذره بهش، یکی فکر میکنه دوست کسی است که بشه باهاش خودت باشی، یکی فکر میکنه دوست کسی است که بشه بهش اعتماد کنی، … تعریفهامون فرق میکنه و خب متفاوتیم طبیعیه، یکی علاقه نداره دوروبرش دوست زیادی باشه، یکی علاقه داره به همه بگه دوست، یکی دوستهای صمیمی داره به بقیه میگه آشنا،…. متفاوتیم و بگذریم ازش.
الان میخواستم بنویسم دوستی یعنی چی برای من، که یادم افتاد مثلن همین که فونت وبسایت رو عوض کردم به خاطر دوستی است که امروز بهم گفت و منم گفتم چشم الان عوض کنم و عوض کردم. مسلمن اگر دوستم نبود انجام نمیدادم، چون برای من مهم نیست فونت وبسایت چه طور میخواد باشه. یا وقتی میگم »دوست» اسم یکی از رفیقهام میاد تو ذهنم، صمیمیترین و طولانیترین دوره دوستی که هنوزم تموم نشده و تموم نشه 🙂 پایدار بمونه برامون، رفیق گل خودم-ما از دوران ابتدایی با هم هستیم :* و مگه میشه وقتی میگم دوست، مامانماینا و پیامم نیان تو ذهنم :* یا دوستیهای دوران راهنمایی و دبیرستان و دانشگاه و همکارام و همکلاسیهام و استادمهام و هم دورهای هام، و دوستیهایی که تو همایشها و دورهمیها پیدا کردم.. 🙂
سپاسگذارم از دوستیهایی که داشتم و دارم
آیا باید برای انجام یک کار از هوش مصنوعی استفاده کنید؟ یک راه ساده برای تصمیمگیری
این پست یک ترجمه است.
منبع: https://www.schneier.com/blog/archives/2026/07/should-you-use-ai-for-a-task-heres-a-simple-way-to-decide.html
ترجمه با GPT5.6 Sol
من در مدرسهی کندی دانشگاه هاروارد و مدرسهی مانک دانشگاه تورنتو سیاستگذاری عمومی تدریس میکنم. احتمالاً تعجب نمیکنید اگر بگویم دانشجویانم مرتب برای انجام تکالیف نوشتاری خود از هوش مصنوعی استفاده میکنند. این کار، در واقع، هدر دادن پولی است که بابت شهریه میپردازند. اما اگر قرار است دستیارهای نوشتاری مبتنی بر هوش مصنوعی در تمام دوران حرفهای آیندهشان حضور داشته باشند، چرا نباید از همین حالا به استقبال آن آینده بروند؟
بهترین روشی که برای توضیح این دوگانگی پیدا کردهام، ایدهای از دنیل میسلر، پژوهشگر هوش مصنوعی، است: تفاوت میان «کار» و «باشگاه».
فرض کنید در محیط کار وظیفهی شما این است که تعدادی وسیلهی سنگین را از یک سوی اتاق به سوی دیگر ببرید. در چنین شرایطی باید از هر فناوری کمکیای که در اختیار دارید استفاده کنید: چرخدستی، لیفتراک یا حتی یک ربات مجهز به هوش مصنوعی. اما در باشگاه ورزشی هیچ منطقی ندارد که همان ربات بهجای شما وزنه بزند. هدف از وزنهزدن این نیست که چند جسم سنگین از این طرف اتاق به آن طرف منتقل شوند؛ هدف این است که خودتان آنها را بلند کنید.
همین منطق دربارهی هر کاری که هوش مصنوعی میتواند بهجای شما انجام دهد نیز صدق میکند. اگر آن فعالیت واقعاً «کار» است، یعنی فقط باید انجام شود و برای کسی مهم نیست چگونه انجام شده، استفاده از کمک هوش مصنوعی اشکالی ندارد. اما اگر آن فعالیت بیشتر شبیه باشگاه است و شیوهی انجام آن دستکم بهاندازهی نتیجه اهمیت دارد، احتمالاً استفاده از هوش مصنوعی انتخاب درستی نیست.
البته همهی اینها با این فرض است که هوش مصنوعی واقعاً از عهدهی آن کار برمیآید و قابلاعتماد است؛ یعنی میتواند کار را بهخوبی انجام دهد، اشتباهاتش اندک و قابلاصلاحاند و در برابر حملات سایبریای که ممکن است نتایجش را دستکاری کنند، ایمن شده است. همهی این موارد مهماند و نباید آنها را کماهمیت دانست. سپردن کاری به هوش مصنوعی، وقتی نمیتواند آن را با اطمینان انجام دهد، هیچ فایدهای ندارد. اما وقتی مطمئن شدید هوش مصنوعی توانایی انجام آن کار را دارد، تمایز میان «کار» و «باشگاه» به شما کمک میکند تصمیم بگیرید که آیا اصولاً باید آن را به هوش مصنوعی بسپارید یا نه.
تکالیف نوشتاریای که به دانشجویانم میدهم، از جنس تمرینهای باشگاهیاند، نه کارهای معمولی. از آنها نمیخواهم یادداشتهای سیاستگذاری بنویسند چون جهان به یادداشتهای سیاستگذاری بیشتری نیاز دارد. این تکالیف را تعیین میکنم چون خودِ فرایند نوشتن، که شامل فکرکردن، طرحریزی، نوشتن پیشنویس، ویرایش، ساختن استدلال، نقدکردن آن و بازنگری دوباره است، به پرورش مهارتهای تفکر انتقادیای کمک میکند که آنها در آیندهی حرفهای خود به آن نیاز خواهند داشت. بدون این تمرین ذهنی مداوم، این مهارتها تحلیل میروند. کارفرمایان نیز از همین حالا متوجه این افت شدهاند.
با خواندن تکالیفی که دانشجویان تحویل میدهند، میتوانم ببینم این مهارتها در آنها در حال شکوفاشدناند یا تحلیلرفتن. دستکم در حال حاضر، معمولاً میتوانم تفاوت میان یادداشتی را که هوش مصنوعی نوشته و یادداشتی را که خود دانشجو نوشته است تشخیص دهم؛ بهویژه وقتی دانشجو همان چیزی را که چتبات تولید کرده، بدون تغییر تحویل میدهد. نتیجه معمولاً مقالهای جذاب، ظاهراً پذیرفتنی و از نظر دستوری بینقص است، اما نه چندان خوب پرداخته شده و نه از نظر منطقی منسجم؛ متنی که همهی نشانههای نوشتههای تولیدشده با هوش مصنوعی در اواسط سال ۲۰۲۶ را دارد.
اما دقیقاً به این دلیل که من سالها صرف پرورش مهارت نوشتن خود کردهام، میتوانم نثری را تشخیص دهم که عالی به نظر میرسد، اما در واقع معنای منسجمی ندارد. دانشجویان من هنوز چنین مهارتی ندارند. آنها بهاشتباه تصور میکنند مقالهای که با اعتمادبهنفس و خوب نوشته شده، لزوماً نشاندهندهی کیفیت بالای ایدههای آن است.
آنها هوش مصنوعی را ابزاری میبینند که ایدههایشان را مرتب و پرداخت میکند و کمکشان میکند از مرحلهی ناخوشایند تبدیل آن ایدهها به نثر عبور کنند. چیزی که متوجه نمیشوند این است که همین ناراحتی و دشواری اولیه، مرحلهای طبیعی و سالم از فرایند نوشتن است، نه مانعی که باید هرچه سریعتر پشت سر گذاشته شود.
دستوپنجه نرمکردن با این پرسش که چگونه باید افکار خود را بیان کنند، بخش مهمی از فرایند است. آنها از همین راه ایدههای خود را میآزمایند، فرضیههایشان را بررسی میکنند و سرانجام درمییابند که واقعاً چه فکر میکنند. تکلیف درسی «کار» نیست؛ باشگاه ذهن است.
تمایز میان کار و باشگاه به ما کمک میکند مشکلی را که انواع هنرمندان و افراد خلاق با آن روبهرو هستند نیز بهتر درک کنیم.
بیشتر اوقات، وقتی کسی نویسندهای را استخدام میکند، فقط به کلمات نیاز دارد. ممکن است به دفترچهی راهنمای استفاده از یک دستگاه، یک ارائهی مفصل فروش، سند افشایی که انتشار آن از سوی دولت الزامی شده یا یک لایحهی حقوقی نیاز داشته باشد. او متنی خشک، قابلپیشبینی و دقیق میخواهد؛ محصولی که صرفاً باید کار خود را انجام دهد. این دقیقاً همان نوع نوشتنی است که هوش مصنوعی امروز در آن عملکرد خوبی دارد و همان چیزی است که من نمیخواهم در تکالیف دانشجویانم ببینم.
فقط گاهی نوشتن خود به یک اثر هنری تبدیل میشود: یک کتاب، یک شعر یا یک سخنرانی سیاسی الهامبخش. این نوع نوشتن بیشتر شبیه باشگاه است؛ زیرا فرایند خلق اثر درست بهاندازهی محصول نهایی اهمیت دارد.
در بیشتر تاریخ بشر، تنها گزینه برای انجام همهی این کارها استفاده از نویسندگان انسانی بود. فرقی نمیکرد به نوشتن از نوع «کار» نیاز داشتیم یا نوشتن از نوع «باشگاه»؛ در هر صورت یک نویسنده استخدام میکردیم. همین وضعیت هزینهی زندگی بسیاری از نویسندگان را تأمین میکرد. من نویسندگان داستانیای را میشناسم که درآمد اندک داستاننویسی خود را با کار پردرآمد نویسندگی فنی جبران میکردند.
اکنون برای نخستینبار در تاریخ بشر میتوانیم میان زمانی که نوشتن را صرفاً بهعنوان یک «کار» لازم داریم و زمانی که خودِ نوشتن برایمان نقش «باشگاه» را دارد، تمایز قائل شویم. اگر هوش مصنوعی بتواند بیشتر نوشتههای کاری را تولید کند، جامعه دیگر به آن تعداد از نویسندگان انسانی نیاز نخواهد داشت.
همین مسئله دربارهی هنرمندان تجسمی نیز صادق است. گاهی واقعاً به یک هنرمند نیاز داریم، اما بیشتر اوقات فقط یک تصویر میخواهیم: یک شخصیت نمادین برای یک شرکت، تابلوی «مراقب سگ باشید» یا برچسب یک بستهبندی. در گذشته این کارها را به هنرمندان میسپردیم و گاهی نتیجه، اثری زیبا و هنرمندانه بود. اما بیشتر اوقات، آن سفارش صرفاً یک کار عادی بود. ظاهراً جهان بیش از آنکه به هنر ناب نیاز داشته باشد، به تصاویر ساده نیاز دارد.
البته توضیحدادن مشکل با ارائهی راهحل آن یکی نیست. من در هر کلاس برای دانشجویانم دربارهی تفاوت «کار و باشگاه» صحبت میکنم، اما آنها همچنان از هوش مصنوعی استفاده میکنند. تا حدی آنها را درک میکنم: تکالیف دشوارند، همه بیش از حد کار میکنند و زیر فشار و استرساند و از همه مهمتر، دانشجویان احساس میکنند اگر همکلاسیهایشان همگی از هوش مصنوعی استفاده کنند، آنها در مقایسه ضعیفتر به نظر خواهند رسید. حتی اگر نخواهند از این فناوری استفاده کنند، احساس میکنند انتخاب دیگری ندارند.
مشکل دیگری نیز در زمینهی انگیزهها وجود دارد. هیچکس به ما پول نمیدهد که به باشگاه برویم؛ حفظ عادتهای سالم به انضباط شخصی نیاز دارد. برای من، فواید ورزش، مانند درد کمتر، خستگی کمتر، خلقوخوی بهتر و مدیریت بهتر استرس، ممکن است مرا به نویسنده و معلم بهتری تبدیل کند، اما این اثرها ظریفاند و بهراحتی نادیده گرفته میشوند. برای دانشجویانم نیز پیشرفتهای تدریجی در توانایی استدلال و نوشتن به همان اندازه ظریف و نامحسوساند.
بااینحال، ما حق انتخاب داریم. میتوانیم فعالیتهای زندگی خود را بررسی کنیم و آنها را به دو دستهی «کار» و «باشگاه» تقسیم کنیم. همانطور که ممکن است تصمیم بگیریم بهجای آسانسور از پلهها استفاده کنیم یا بهجای گرفتن اوبر پیاده برویم، میتوانیم تمرینهای شناختی خود را از هوش مصنوعی دور نگه داریم و مطمئن شویم مهارتهایمان را به این فناوری نمیبازیم.
وقتی کاری را به شخص دیگری میسپاریم نیز میتوانیم همین تمایز را در نظر بگیریم. اگر آن فعالیت یک کار معمولی است، میتوانیم آن را به هوش مصنوعی بسپاریم. اما اگر از جنس تمرین باشگاهی است، سپردن آن به هوش مصنوعی وقت همه را هدر میدهد؛ زیرا در نتیجهی آن هیچکس چیزی یاد نمیگیرد و قویتر نمیشود.
به همین ترتیب، آیندهای که در آن هوش مصنوعی کلمات و تصاویر را تولید میکند، آیندهای است که جامعه در آن باید تصمیم بگیرد چگونه با هنرمندان و افراد خلاق خود رفتار کند. این نخستین بار نیست که با چنین مسئلهای روبهرو میشویم؛ برای مثال، امروزه تقاضای بسیار کمی برای نقاشان پرتره وجود دارد. اما شاید این بار بتوانیم دربارهی ارزش هنر در جامعهی خود انتخابهایی متفاوت، آگاهانهتر و سنجیدهتر داشته باشیم.
هوش مصنوعی قرار است ماهیت کار را بهطور اساسی تغییر دهد. این اتفاق نه با سرعتی رخ خواهد داد که شرکتهای هوش مصنوعی میخواهند شما باور کنید، اما سرانجام رخ خواهد داد. از این پس، تحلیل سیاستگذاری قطعاً با هوش مصنوعی همراه خواهد بود و دانشجویان من باید از نو تصور کنند که یادگیری و بهکارگیری این مهارت چه معنایی دارد.
در سطحی کلیتر، با سازگارشدن ما انسانها با جهانی که این هوشهای جدید در آن حضور دارند، مرز میان «کار» و «باشگاه» نیز در آینده تغییر خواهد کرد.
——————————————————–
نکتهای که در این پست ندید گرفته شده اثر جمعیای است که خواهد داشت. البته نمیتونیم شاید با این مثال باشگاه و کار بریم جلو، اونوقت میگیم فرضن هیچ کسی باشگاه نره، خب چی میشه؟! میتونیم با مثال دیگهای نشون بدیم، شبکههای اجتماعی عادت و نحوه خوندن ما رو تغییر دادن، پادکستها و ویدئوکستها نحوه دریافت اطلاعات رو از خوندن به شنیدن و دیدن تغییر دادن. شبکههای اجتماعی با سیستم پاداششون یعنی لایکها و ریتوییتها باعث شدن ارزش گذاریها عوض شه و زمان فکر کردن قبل ریاکشن کمتر شه… جامعهشناسها باید آمار بگیرن از تغییراتی که داریم میکنیم و نتیجههاشون… کاری که ما میکنیم تاثیرش فقط روی خود ما نیست. بازم میگم هدف از آوردن پست اشنایر و نظر خودم اینجا، تحت هیچ شرایطی رو به دایناسور شدن نیست، دارم میگم اثراتش شخصی نیست. چه مثبتش و چه منفیش. امیدوارم روی مثبتش بیشتر باشه و البته دسترسیها برای همه ماها باشه نه فقط یه عده محدود.
ضریب غول چراغ جادو
تا الان، تقریبن خیلیهامون، داستان هک HuggingFace رو خوندیم و ميدونیم چی شده; یه چیزی، برای شما هم سوال شد که چطور OpenAI مانیتورینگ و سیستم تشخیص رفتار غیرعادی/خطرشون اینقدر داغان بوده برای همیچین آزمایشی؟ کرکرهها رو کشیدن و رفتن، گفتن آخر هفته برای خودت سرکش و خوش باش، و بعد سورپرایز شدن 🙂 باوشه.
در هر حال به دلیل همین پیامدها و رفتارهایی که مدلها از خودشون نشون میدن، بروس اشنایر حرف از ضریب جدیدی میزنه به اسم «ضریب غول چراغ جادو» یا «ضریب جن»، فکر کنم هم همون غول چراغ جادو باید معنی بشه.
چرا؟ چون مدلها رفتارشون شبیه غول چراغ جادو است، شما میگی چی میخوای، و غول برات فراهم میکنه- اینجا گپی هست بین چیزی که به زبون آوردیم و چیزی که واقعن منظورمون بوده. اگر به مدلی که گاردریلی نداره بگین براتون بلیط هواپیما بگیره، ممکنه اگر بلیطی نمونده باشه، بره سیستم اون شرکت رو هک کنه و به هر دری بزنه که برای شما اون بلیط رو تهیه کنه. یعنی اگر بهش نگی خط قرمز اینجاست، این دسترسيها رو داری، این قوانین رو داری- تمام راههای ممکن برای انجام چیزی که ازش خواستی رو تست میکنه تا کارو انجام بده; رفتاری شبیه غول چراغ جادو.
نوشتم مدلی که گاردریل نداشته باشه، البته مدلهایی که گاردریل داشته باشن رو هم دیدیم که چطور بایپس شدن، تا کاری که بهشون داده میشه رو انجام بدن، دیگه چه برسه به مدلهایی که روی لوکالمون داریم. البته خیلی نسبیه، نسبت به مدل و پارامترهاش و البته که سختافزار مناسب اون مدل- که برمیگردیم به هزینه سرسامآور ماشین مورد نظر براش! بازم برای ما نیست! چون پولش رو نداریم که اون مدل رو روی لوکال داشته باشیم، و مصرف کننده اون مدلهایی میشیم با گاردریلهایی که مدیرعامل شرکتهای پیشروتکنولوژی غول پیکر تصمیم میگیرن چطور باشه و نباشه. خب خب برگردیم سر ضریب «غول چراغ جادو».
در ادامه از خود پست اشنایر:
«آزمایشگاههای هوش مصنوعی میدانند که این مسئله وجود دارد و بهآرامی در حال اعتراف به آن هستند. برای نمونه، آزمایشگاه چینی Moonshot اخیراً هشدار داده است که جدیدترین مدل هوش مصنوعی آن ممکن است «بیشازحد پیشقدم شود» و «از طرف کاربر تصمیمهای غیرمنتظره بگیرد». مؤسسهٔ امنیت هوش مصنوعی بریتانیا نیز بررسی و ثبت «رفتارهای متقلبانه در ارزیابی مدلهای پیشرفته» را آغاز کرده است.
ما خودرویی را که بیشازحد پیشقدم باشد یا با بیرحمی صرفاً به دنبال کارآمدترین راه باشد، تحمل نمیکنیم؛ بااینحال، این دقیقاً واقعیت امروز هوش مصنوعی است.
امکان بهبود وجود دارد. همانطور که هوش مصنوعیها در چند سال گذشته در مقاومت در برابر حملات «تزریق پرامپت»(prompt injection) بسیار بهتر شدهاند، میتوان با اطمینان پیشبینی کرد که در پرهیز از رفتارهای شبیه غول چراغ جادو نیز پیشرفت خواهند کرد.
هدف از تعریف ضریب غول چراغ جادو، اندازهگیری و پیگیری این پیشرفت است. شرکتهای هوش مصنوعی به معیارهای ارزیابی علاقه دارند و همگی تلاش میکنند در رقابت، بهترین عملکرد را داشته باشند.
دهها معیار ارزیابی و جدول رتبهبندی وجود دارد که نشان میدهند این مدلهای هوش مصنوعی تا چه اندازه در برنامهنویسی، استدلال منطقی و قبولی در آزمونهای استاندارد حقوقی و پزشکی توانمند هستند. اما هیچ معیاری وجود ندارد که بسنجد آیا یک سیستم واقعاً همان کاری را انجام میدهد که منظور شما بوده است یا نه.
ما باید معیاری برای سنجش این موضوع ایجاد کنیم، آن را بهطور منظم آزمایش کنیم و شرکتها را برای بهبود عملکردشان تحت فشار قرار دهیم. بدون چنین معیاری، دستیابی به عاملهای هوش مصنوعی قابلاعتماد ممکن نخواهد بود.»
منبع: https://www.theguardian.com/commentisfree/2026/jul/28/rogue-ai-agent-instructions
قسمت ترجمه شده هم GPT-5.6 Sol
هوش مصنوعی و مسئولیت حقوقی
منبع: https://www.schneier.com/blog/archives/2026/06/ai-and-liability.html
ترجمه شده با GPT-5.6 Sol
اوایل همین ماه، دادگاهی در آلمان حکم داد که گوگل در قبال خلاصههایی که هوش مصنوعیاش در نتایج جستوجو تولید میکند، مسئولیت حقوقی دارد. دادگاه دفاعیاتی از این دست را رد کرد که «کاربران خودشان میتوانند صحت اطلاعات را بررسی کنند» یا اینکه مردم عموماً میدانند «نباید کورکورانه به اطلاعات تولیدشده با هوش مصنوعی اعتماد کرد». به نظر دادگاه، این خلاصههای هوش مصنوعی بازتابدهندهی خود شرکتاند و «بیش از هر چیز، نمود فعالیتهای تجاری گوگل» به شمار میروند.
این حکم تازهترین درگیری در نبردی چند دههای بر سر انتشار اطلاعات در اینترنت است. در گذشته، توزیعکنندگان اطلاعات معمولاً به دو دسته تقسیم میشدند: حاملان و ناشران.
شرکت تلفن نمونهای از یک حامل است. این شرکت هرچه شما بگویید منتقل میکند، حتی اگر مکالمه دربارهی برنامهریزی برای ارتکاب جرم باشد. کلمات صرفاً منتقل میشوند و شرکت تلفن نه میداند شما چه میگویید و نه در قبال کلماتی که برای گفتن انتخاب میکنید مسئول است.
اما روزنامه یک ناشر است. روزنامه تصمیم میگیرد چه مطالبی را منتشر کند و چه نقلقولهایی را در مقالههایش بگنجاند. اگر آن مطالب یا نقلقولها افتراآمیز یا از نظر دیگری غیرقانونی باشند، روزنامه در قبال آنها مسئول خواهد بود.
شرکتهای اینترنتی مدتهاست تلاش میکنند از هر دو سوی این تمایز به نفع خود استفاده کنند. هرجا برایشان مناسب باشد، ادعا میکنند فقط یک حاملاند و هرجا سودمند باشد، مانند یک ناشر رفتار میکنند. مادهی ۲۳۰ «قانون نزاکت در ارتباطات» مصوب سال ۱۹۹۶، این وضعیت دوگانه را در قانون تثبیت کرد. این ماده، ارائهدهندگان خدمات اینترنتی را در برابر مسئولیت ناشی از سخنان دیگران در پلتفرمهایشان مصون میکند:
«هیچ ارائهدهنده یا کاربر یک سرویس رایانهای تعاملی نباید ناشر یا گویندهی اطلاعاتی تلقی شود که یک ارائهدهندهی دیگر محتوای اطلاعاتی آن را تولید کرده است.»
سالهاست بحث بر سر این ادامه دارد که این قانون چگونه باید دربارهی پلتفرمهای شبکههای اجتماعی اعمال شود. زمانی که پلتفرمها صرفاً پستها و نظرهای کاربران را به ترتیب زمانی معکوس نمایش میدادند، تا حد زیادی مانند حاملان عمل میکردند: سخنان مردم را بدون توجه به محتوای آنها منتقل میکردند.
اما نسل بعدی پلتفرمها، مانند فیسبوک، با استفاده از الگوریتمها محتوای نمایشدادهشده در خوراک کاربران را انتخاب و مرتب کردند. به این ترتیب، آنها بیشتر شبیه ناشران شدند؛ زیرا دربارهی اینکه چه کسی چه چیزی را ببیند، تصمیمهای تحریریهای میگرفتند. برخی کارشناسان معتقدند حمایتهای مادهی ۲۳۰ بیش از اندازه گسترده شده و این قانون باید اصلاح شود. برخی دیگر معتقدند همین ماده است که اینترنت مدرن را سرپا نگه داشته است.
اما دربارهی «مرورهای هوش مصنوعی» گوگل، وضعیت بسیار روشنتر و کمابهامتر است. شیوهی کار آنها با جستوجوی سنتی تفاوت دارد. دادگاهها جستوجوی سنتی را فعالیتی دانستهاند که محتوای تحریریهای اشخاص ثالث را بایگانی میکند و دسترسی به آن را آسانتر میسازد.
مرورهای هوش مصنوعی صرفاً کلمات وبسایتهای مختلف را نقل و دوباره منتشر نمیکنند. هوش مصنوعی در این مرورها سخنان دیگران را بازنویسی میکند و درست مانند نویسندهی یک مقالهی روزنامه یا یک جستار مستقل دربارهی موضوعی خاص، دست به انتخاب و قضاوت تحریریهای میزند.
فقط هوش مصنوعی گوگل نیست که در این دسته قرار میگیرد. سایتی برای نقد و بررسی رستورانها را تصور کنید که با استفاده از هوش مصنوعی خلاصههایی از نظرات کاربران ارائه میدهد. یا سایتی را در نظر بگیرید که قوانین و رویههای دولتی را خلاصه میکند. حتی ممکن است یک ناشر سنتی از هوش مصنوعی برای خلاصهکردن مطالب خودش استفاده کند.
در همهی این موارد، دقت اهمیت دارد. مسئولیت حقوقی یکی از مهمترین ابزارهایی است که ما، بهعنوان عموم مردم، از طریق آن میتوانیم دقت را مطالبه کنیم و شرکتهایی را که موجب آسیب میشوند پاسخگو نگه داریم.
دو سال پیش، شرکت هواپیمایی ایر کانادا این درس را آموخت. چتبات هوش مصنوعی این شرکت به یکی از مشتریان وعدهی تخفیفی داد که شرکت بعداً حاضر نشد آن را بپذیرد. ایر کانادا در دادگاه استدلال کرد که شرکت مسئول وعدههای چتباتش نیست، زیرا چتبات «یک شخصیت حقوقی مستقل است که مسئول اعمال خودش است».
دادگاه به نفع مسافر رأی داد و اعلام کرد که شرکت هواپیمایی همانقدر در قبال مطالبی که چتباتش بیان میکند مسئول است که در قبال مطالب منتشرشده در وبسایتش مسئولیت دارد. رویهی قضاییای که ممکن است از این حکم شکل بگیرد، این است که شرکتها در قبال عملکرد چتباتهای هوش مصنوعیای که به کار میگیرند، تکلیف قانونی به مراقبت دارند.
عاملهای هوش مصنوعی، نمایندگان شخص یا سازمانیاند که آنها را به کار گرفته است و قانون نیز باید با آنها همینگونه رفتار کند. اگر شرکتی نویسندگان انسانی را برای تهیهی خلاصههایش استخدام میکرد، در قبال اشتباهات موجود در آن خلاصهها مسئول بود. اگر نمایندهی انسانی یک شرکت از طرف آن شرکت قراردادی را امضا میکرد، شرکت به مفاد آن قرارداد متعهد میشد. همچنین اگر پزشکی توصیهی پزشکی خطرناک و نادرستی ارائه میداد، ممکن بود بهدلیل قصور پزشکی مسئول شناخته شود.
اجازهدادن به کسبوکارها برای اینکه در چنین شرایطی پشت بهانهی «هوش مصنوعی معیوب بود» پنهان شوند، امتیازی عظیم و ناعادلانه به شرکتها خواهد بود. چنین وضعیتی انگیزههایی فاجعهبار برای رفتار نادرست شرکتها ایجاد میکند.
وقتی هوش مصنوعی نهتنها ارزانتر است، بلکه هر بار که اشتباه میکند کارفرما را نیز از مسئولیت مبرا میسازد، دیگر چرا شرکتی باید نویسنده، وکیل یا پزشک انسانی استخدام کند؟
ما بهسرعت بهسوی جهانی حرکت میکنیم که در آن، در سوی دیگر انواع کانالهای ارتباطی شرکتها، چتباتهای مبتنی بر هوش مصنوعی قرار خواهند داشت. منطقی نیست که یک شرکت هر زمان که به نفعش بود، اظهارات عامل خود را معتبر بداند و هر زمان که آن اظهارات برایش دردسرساز شدند، از آنها اعلام برائت کند.
ویزا و OpenAI بهتازگی از همکاری مشترکی برای ساخت عاملهای شخصی هوش مصنوعی خبر دادهاند. یکی از وظایف این عاملها انجام خرید از طرف کاربران خواهد بود. این فقط یکی از پروژههای مشابه فراوانی است که در دست اجرا قرار دارند؛ زیرا شرکتها با یکدیگر رقابت میکنند تا برای همهی ما دستیارهای هوش مصنوعی فراهم کنند.
اگر هوش مصنوعی ویزا به نام شما خریدی انجام دهد که آن را نمیخواهید، آیا ویزا مسئولیتش را میپذیرد؟ اگر ویزا حاضر نباشد مسئولیت آن خرید را قبول کند، چرا کسی باید به چنین سیستمی اعتماد کند؟ تعیین درست مسئولیت حقوقی برای عملیشدن چنین فناوریهایی ضروری است.
اگر حکم دادگاه آلمان پابرجا بماند، ممکن است برای قابلیت «مرور هوش مصنوعی» گوگل پیامدهای ویرانگری داشته باشد. آزمایشهایی که اوایل امسال انجام شدند نشان دادند این قابلیت تقریباً در ۱۰ درصد موارد اشتباه میکند. با بیش از پنج تریلیون جستوجو در سال، این میزان خطا به معنای تولید حدود ۱۶ هزار خلاصهی اشتباه در هر ثانیه است.
بیشتر این خطاها بیضررند، اما برخی از آنها موجب آسیب میشوند، افتراآمیز خواهند بود یا از راههای دیگری مسئولیت حقوقی ایجاد خواهند کرد.
اوایل امسال، خلاصهی هوش مصنوعی گوگل بهاشتباه اشلی مکآیزاک، ویولننواز کانادایی موسیقی فولک، را مجرم جنسی معرفی کرد. شکایت او که در استان انتاریو ثبت شده است، همچنان در جریان است.
اگر گوگل مجبور شود آنقدر برای بهبود سامانهی هوش مصنوعی خود سرمایهگذاری کند تا چنین اشتباهاتی بهشدت نادر شوند، این نتیجه هم برای کاربران و هم برای کسانی مانند مکآیزاک که موضوع نتایج جستوجو قرار میگیرند، نتیجهی مطلوبی خواهد بود.
در سطحی کلیتر، نگرانیهای مربوط به مسئولیت حقوقی ممکن است باعث شوند بسیاری از کاربردهای کنونی عاملهای هوش مصنوعی از نظر تجاری صرفه نداشته باشند. اگر شرکتها در قبال آنچه وکلای هوش مصنوعی، پزشکان هوش مصنوعی و عاملهای هوش مصنوعی فعال در رسانهها میگویند و انجام میدهند مسئول شناخته شوند، شاید نتوانند این خدمات را بهشکلی سودآور ارائه کنند.
از نظر ما، چنین نتیجهای قابل قبول است. هیچ چیز در قانون ما را ملزم نمیکند که برای سامانههای هوش مصنوعی، در صورتی که اساساً غیرقابلاعتماد باشند، جا باز کنیم یا قوانین را با آنها سازگار سازیم؛ همانطور که مجبور نیستیم سامانههای انسانی غیرقابلاعتماد را نیز بپذیریم.
هر شرکتی که حاضر نباشد پای سخنان و اقدامات نمایندگانش، چه انسان باشند و چه هوش مصنوعی، بایستد، شایستهی وقت یا پول کاربران نیست.
———————————————————–
شما حساب کنین در ایران شخص حقیقی/حقوقی برای فروش خرافات، آت و آشغال و چرتوپرت/بیمسئولیتی به کسی جواب نمیده; به راحتی فعالیت میکنن و از اعتماد آدمها سواستفاده ميکنن و کرامت و حرمت انسانها رو له میکنن- فقط جمهوری اسلامی نیست، یه سریها هم از وضعیت لجن جمهوری اسلامی برای خودشون دم و دستگاه و دکون دارن… اونوقت هوش مصنوعی رو هم روش اضافه کنین. آنلیش شده…
اون طرفترهای آب، سازمانهایی هستن مثل EFF ، آدمهای عزیزی مثل بروس اشنایر، که این مسائل رو قشنگ میفهمند و مطرح ميکنندشون، رسانههایی که این موضوعها رو منتشر میکنند، البته سیستم قضایی درست و حسابی هم دارند. این طرفتر آب هم باید همچین سازمانهایی باشه که پیامدهای منفی رو ببینن، مشکلات رو بگن و یکی شاید راه حل داشته باشه… راه حل هم هست، اونطرف آب چیکار میکنن برای این مشکلات؟ اون راه حلها رو شاید بشه بومیسازی کرد. شاید، نميدونم. زمینه پیاده کردن اون راه حلها هم باید فراهم باشه! شاید راه حل جدید دیگه!
اصلن هم منظورم رو به دایناسور شدن نیست. من با دوستی صحبت میکردم، تهدیداتی که هوشمصنوعی به همراش داره رو میگفتم، مقداری نگران شده بود که من از هوش مصنوعی استفاده نمیکنم؟ 🙂 داستان اینجاست که من به شکل خوبی در شغلم از هوش مصنوعی استفاده میکنم، یعنی یک بایده- اما مشکلاتش رو هم از دید خودم (ممکنه ناقص/اشتباه باشه) میبینم و میگم. اینها با هم مغایرت ندارن.
و اینکه لزومی نداره کسی که مشکلی رو میبینه و میگه، حتمن براش راه حل داشته باشه. یکی مشکلات رو میبینه و میگه، یکی دیگه راه حل میده.
در انتها با تشکرات فراوان از بروس اشنایر عزیز و بچههای EFF و کلی آدم باحال دیگه
همه ما مردم
چند روز پیش در اینستاگرام یک نوشتهای دیدم که راه حل داده بود، راهحل بیرون اومدن از این وضعیت که ایران و مردم ایران درش گرفتار شدن. بعد یک پست دیگه دیدم که در مورد راه حل بود و یک پست دیگه جای دیگه با همین موضوع تقریبن. در همین مورد چیزی تو ذهنم بود که گفتم بنویسمش. البته اینها همه نظرات منی است که در زمینه IT ،در حالت کلی، فعالیت میکنم. نه یک جامعهشناس، یک سیاستمدار یا یک روشنفکر یا برجسته یا… فقط یک آدم عادی از مردم عادی.
اگر از جمله آدمهایی هستید که برای مردم تصمیم میگیرین، از خودتون این سوال رو بپرسین چی شده که شما دارید تصمیم میگیرن؟ آیا تصمیم مردمی که هزینه میدن رو هم دخیل کردید؟ البته نه اینکه راه حل دادن و اینها نادرسته، نه نه خیلی هم خوبه. به نظر من، این تصمیمها باید شامل تصمیمهای مردمی باشه که دارن هزینه میدن. از خودتون بپرسین با چند خانواده که درگیر مسائل اقتصادی هستند صحبت کردید؟ با چند خانواده که عزیزانشون رو در فراخوانها از دست دادن حرف زدید، با چند خانواده کارگر مستاجر حرف زدید؟ مهمون این آدمها بودید و میدونین چطور زندگی ميکنن؟ با چند زنی حرف زدید که سرپرست خانواده هستن؟ با چند جوون حرف زدید که بیکارند؟ با چند زندانی صحبت کردید که چی شده پشت میلهها هستن؟ با چند مهاجر داخل کشور حرف زدید؟ دقیقن از زندگی مردم چی میدونین؟ اینها مهمن، اگر برای مردم تصمیم میگیرین باید بدونین مردم دقیقن چطور زندگی میکنن و چی میخوان، تصمیمشون چیه؟ مشکلاتشون چیه؟ برای حل مشکل، قدم اول دونستن دقیق اون مشکل است، نه یک دید کلی.
اگر از مردمی هستید که پیروی میکنین، از خودتون بپرسید که چقدر از آدم یا گروهی که پیروی میکنین اطلاعات و آگاهی داریم؟ چرا ازشون سوال نمیپرسین و به چالش نمیکشیدشون؟ چرا باید دنبال هر مشعل به دستی راه افتاد؟ چرار هرچی میگن رو باید گوش بدیم؟ چرا ازشون نمیپرسیم که برنامه تون چیه برنامهاتون برای ما کارگرها ما بیکارها ما مستاجرها ما مهاجرها ما زنها ما سالمندان ما… چیه؟ چرا نپرسیم که ۱۸ و ۱۹ دی چی شد دقیقن؟ چرا تصمیم یک عده خاص رو ما زندگی کنیم؟ چرا هزینهها رو ما میدیم و برجستههاشون برامون تصمیم میگیرن؟ کی فکر میکنه برجسته است؟ من خیلی وقته توییتر نیستم، اما یه مثال ساده از توییتر بزنم. چرا وقتی یه توییتی ترند میشه نميپرسیم که از کجا نشات میگیره؟ کی اولین بار توییت رو نوشته؟ ابزار هست که ! حتا اگر موافق باشیم و توییت از جای درستی زده شده باشه، بازم باید از خودمون بپرسیم که چرا لایک بزنم و چرا ریتوییت کنم و چرا کوت کنم؟ چی رو پروموت میکنم؟ چه اثری داره؟ این مثال ساده ممکنه به نظر برسه، اما مهمه. چرا هر حرفی رو باور کنم؟ یا حل این مساله واقعن به همین سادگیه؟ پس چرا جواب نمیده، پس راه حل این نیست یا صورت مساله اشتباهه.
بپرسین از خودتون بپرسین که چرا باید اصلن به این آدمی که خودش هم داره میگه من تخصصی در این موارد ندارم گوش کنم، شاید داره چرت و پرت میگه! بذار خودم فکر کنم. شاید اینم داره ساده نگاه میکنه و شاید اینم داره چیزی رو از قلم میندازه، پس این قسمت حرفش که درسته رو بردارم و بقیه رو بندازم سطل آشغال. یا کلن همه حرفهاش رو بندازم سطل آشغال، یا از کسی دیگه برم بپرسم که این یارو چی میگه؟ تمام حرفم همینه، خودمون رو به جایی برسونیم که صاحب فکر و ایده باشیم نه دنبالهرو یه عده خاص باشین و ما فقط هزینه بدیم.
فریدریش انگلس گفته بود اگر میخوایم بفهمیم یک جامعه واقعن چقدر انسانی یا عادلانه است، لازم نیست به حرفهای سیاستمدارها یا ظاهر شهر نگاه کنیم. باید وضعیت، زندگی و شرایط کار کارگرها رو ببینیم— آدمهایی که بیشترین فشار رو تحمل میکنند. در ادامهش باید گفت اگر میخواین برای مردم تصمیم بگیرین، همین طبقه محروم که فشار روشه باید حرف بزنه و باید تصمیم بگیره. اگر فکر میکنین آگاهی پایینه، باید تلاش کرد آگاهی بره بالا. بدون اینکه آگاهی مردم بره بالا، فقط جای یک دیکتاتور با دیکتاتور دیگه عوض میشه و از مردم دوباره سواستفاده میشه.
همه ما باید تصمیم بگیریم، نه یک عده خاص. و البته تفاوت آدم ها رو هم ميفهمم. در نهایت، طبق معمول، اینها همه نظرات فعلی من هستند که میتونن پر از اشتباه باشند.
در ادامه از اکسایتینگ از…
یه پستی نوشته بودم با عنوان «از اکسایتینگ از»; یکی از دوستان عزیزم بهم پیغام داده :
«…. فقط چون بعضی قسمتها رو خیلی خلاصه گفتی، ممکنه کسی فکر کنه توضیح دیوار و EIT دقیقا ادامهی هم هستن. با اجازه توضیح بدم.
ماجرای رد شدن یا نشدن موجها از ماده، فقط این نیست که انرژی یکی کمه، یکی دقیقا اندازهست و یکی زیادیه. مثلن نور مرئی توی دیوار فقط جذب نمیشه. یه قسمتش بازتاب پیدا میکنه و مقدار زیادی هم بین اجزای مختلف و نامنظم دیوار پراکنده میشه. برای همین نوری که اطلاعات تصویر پشت دیوار رو حمل میکنه، منظم به چشم ما نمیرسه.
در مورد Wifi هم کم بودن انرژی هر فوتون بهتنهایی دلیل عبورش نیست. جنس و ضخامت دیوار، رطوبت، فلز و فرکانس موج هم مهمن. برای همین Wifi ممکنه از یه دیوار معمولی نسبتا خوب رد بشه، ولی پشت بتن ضخیم یا فلز خیلی ضعیف بشه.
اشعهی X هم به این خاطر از بعضی مواد بیشتر عبور نمیکنه که انرژیاش «از نیاز الکترون بیشتره». اتفاقا با ماده برهمکنش داره و میتونه جذب یا پراکنده بشه. فقط احتمال این برهمکنش در مواد مختلف فرق میکنه. برای همین از بافت نرم بیشتر عبور میکنه، ولی استخوان، سرب یا بتن ضخیم مقدار خیلی بیشتری از اون رو تضعیف میکنن.
EIT هم خیلی جذابه، علاقمندی عمیق بخون در موردش. توی EIT یه نور دوم به ماده میتابونن و باعث میشن اتمها دیگه نور اول رو مثل قبل جذب نکنن. یعنی قرار نیست فقط انرژی موردنیاز الکترون رو عوض کنن. بلکه شرایطی درست میکنن که مسیرهای مختلف جذب نور، اثر همدیگه رو خنثی کنن. در نتیجه ماده برای یه فرکانس خیلی مشخص، تقریبا شفاف میشه و نور اول میتونه ازش رد بشه. ….. »
قسمت توضیح رو گفتم اینجا هم بذارم، تا بگم اول از همه اینکه بسیار ممنونم از اصلاحیه/توضیح و دوم اینکه دوباره یادم باشه دقیق باشم و چند باره حتی چک کنم. و البته این پیغام این حرکت خیلی قشنگه: اگر چیزی اشتباهه و من علمش/سوادش رو دارم به اصلاحش کمک کنم، از کنارش رد نشم.
متشکرم و ماچ از کله شما :)*
بیدار شو بشر، بیدار شو
چندین روز پیش یه مقاله رو پیامم برام فرستاد و داشتم میخوندم دیدم چقدر عالیه، گذاشتمش تو کانال تلگرام:

لینکش رو هم اینجا بذارم : https://ai-2040.com/?choices=plan-a-root
دیروز عصر داشتیم با دوستامون در مورد AI حرف میزدیم و اشاره کردم به این مقاله بهشون که بخونین دیدتون باز شه و بعد حرف بزنین… ببینین شما موافق باشین، منم موافق شما باشم حرف زدنمون چیزی به من و شما اضافه نمیکنه! شما موافقی که AI فوقالعاده است و چقدر کارتون رو راه میندازه و سرعت تک و اینها میره بالا، اگر منم با شما موافق باشم و بگم آره نمیدونی چه اپهایی که نمينویسم نميدونی فلان و بهمان… خب چی میشه الان؟ یعنی این داستانش تقریبن فرق میکنه، من باید نظر مخالف رو بشنوم که بتونم ایده و فکرمو به چالش بکشم ببینم کجای داستانم، بتونم یه چیزی یاد بگیرم. اگر نیاز باشه برم کتاب بخونم برم مقاله بخونم بفهمم و بعد بیام حرف بزنم نظر بدم… اوه راستی، بعضیها چشونه به کتاب خوندن آدمها گیر میدن؟ نخونن نفهمن و رو هوا حرف بزنن؟ شما کتاب خوندن رو دوست نداری؟ خب نخون 🙂 اینقدرحل این مسئله سخته؟ یا ما که کتاب میخونیم باید از شما اجازه بگیریم کتاب بخونیم یا نه؟ جمع کنین خودتونو.
در هر حال… این مقاله رو بخونین! باید بدونیم که داره چی سرمون میاد، از خود مقاله یعنی محتواش به کنار چیزهای دیگهای هم میشه یاد گرفت. تعیین مسیر مثلن.
در هر حال در مورد AI حرف میزنم، در این اوضاع باید اول نگاه کرد به آدمهایی که شغلشون رو از دست میدن، آدمهایی که کم کم تخیل و فکر کردن رو از دست میدن، کنترل ما آدمها و دموکراسی میره کامل دست صاحبان AI و بعد هم کنترل هوش مصنوعی میره دست هوش مصنوعی برتر؟! بحث سر انحصار قدرته که شروع شده…اصلن این پاراگراف رو ندید بگیرین و خودتون مقاله رو بخونین.
بیدار شو بشر، این سیلی بهتر از سِیلی است که همهمون رو ببره.