منبع: https://www.schneier.com/blog/archives/2026/06/ai-and-liability.html
ترجمه شده با GPT-5.6 Sol
اوایل همین ماه، دادگاهی در آلمان حکم داد که گوگل در قبال خلاصههایی که هوش مصنوعیاش در نتایج جستوجو تولید میکند، مسئولیت حقوقی دارد. دادگاه دفاعیاتی از این دست را رد کرد که «کاربران خودشان میتوانند صحت اطلاعات را بررسی کنند» یا اینکه مردم عموماً میدانند «نباید کورکورانه به اطلاعات تولیدشده با هوش مصنوعی اعتماد کرد». به نظر دادگاه، این خلاصههای هوش مصنوعی بازتابدهندهی خود شرکتاند و «بیش از هر چیز، نمود فعالیتهای تجاری گوگل» به شمار میروند.
این حکم تازهترین درگیری در نبردی چند دههای بر سر انتشار اطلاعات در اینترنت است. در گذشته، توزیعکنندگان اطلاعات معمولاً به دو دسته تقسیم میشدند: حاملان و ناشران.
شرکت تلفن نمونهای از یک حامل است. این شرکت هرچه شما بگویید منتقل میکند، حتی اگر مکالمه دربارهی برنامهریزی برای ارتکاب جرم باشد. کلمات صرفاً منتقل میشوند و شرکت تلفن نه میداند شما چه میگویید و نه در قبال کلماتی که برای گفتن انتخاب میکنید مسئول است.
اما روزنامه یک ناشر است. روزنامه تصمیم میگیرد چه مطالبی را منتشر کند و چه نقلقولهایی را در مقالههایش بگنجاند. اگر آن مطالب یا نقلقولها افتراآمیز یا از نظر دیگری غیرقانونی باشند، روزنامه در قبال آنها مسئول خواهد بود.
شرکتهای اینترنتی مدتهاست تلاش میکنند از هر دو سوی این تمایز به نفع خود استفاده کنند. هرجا برایشان مناسب باشد، ادعا میکنند فقط یک حاملاند و هرجا سودمند باشد، مانند یک ناشر رفتار میکنند. مادهی ۲۳۰ «قانون نزاکت در ارتباطات» مصوب سال ۱۹۹۶، این وضعیت دوگانه را در قانون تثبیت کرد. این ماده، ارائهدهندگان خدمات اینترنتی را در برابر مسئولیت ناشی از سخنان دیگران در پلتفرمهایشان مصون میکند:
«هیچ ارائهدهنده یا کاربر یک سرویس رایانهای تعاملی نباید ناشر یا گویندهی اطلاعاتی تلقی شود که یک ارائهدهندهی دیگر محتوای اطلاعاتی آن را تولید کرده است.»
سالهاست بحث بر سر این ادامه دارد که این قانون چگونه باید دربارهی پلتفرمهای شبکههای اجتماعی اعمال شود. زمانی که پلتفرمها صرفاً پستها و نظرهای کاربران را به ترتیب زمانی معکوس نمایش میدادند، تا حد زیادی مانند حاملان عمل میکردند: سخنان مردم را بدون توجه به محتوای آنها منتقل میکردند.
اما نسل بعدی پلتفرمها، مانند فیسبوک، با استفاده از الگوریتمها محتوای نمایشدادهشده در خوراک کاربران را انتخاب و مرتب کردند. به این ترتیب، آنها بیشتر شبیه ناشران شدند؛ زیرا دربارهی اینکه چه کسی چه چیزی را ببیند، تصمیمهای تحریریهای میگرفتند. برخی کارشناسان معتقدند حمایتهای مادهی ۲۳۰ بیش از اندازه گسترده شده و این قانون باید اصلاح شود. برخی دیگر معتقدند همین ماده است که اینترنت مدرن را سرپا نگه داشته است.
اما دربارهی «مرورهای هوش مصنوعی» گوگل، وضعیت بسیار روشنتر و کمابهامتر است. شیوهی کار آنها با جستوجوی سنتی تفاوت دارد. دادگاهها جستوجوی سنتی را فعالیتی دانستهاند که محتوای تحریریهای اشخاص ثالث را بایگانی میکند و دسترسی به آن را آسانتر میسازد.
مرورهای هوش مصنوعی صرفاً کلمات وبسایتهای مختلف را نقل و دوباره منتشر نمیکنند. هوش مصنوعی در این مرورها سخنان دیگران را بازنویسی میکند و درست مانند نویسندهی یک مقالهی روزنامه یا یک جستار مستقل دربارهی موضوعی خاص، دست به انتخاب و قضاوت تحریریهای میزند.
فقط هوش مصنوعی گوگل نیست که در این دسته قرار میگیرد. سایتی برای نقد و بررسی رستورانها را تصور کنید که با استفاده از هوش مصنوعی خلاصههایی از نظرات کاربران ارائه میدهد. یا سایتی را در نظر بگیرید که قوانین و رویههای دولتی را خلاصه میکند. حتی ممکن است یک ناشر سنتی از هوش مصنوعی برای خلاصهکردن مطالب خودش استفاده کند.
در همهی این موارد، دقت اهمیت دارد. مسئولیت حقوقی یکی از مهمترین ابزارهایی است که ما، بهعنوان عموم مردم، از طریق آن میتوانیم دقت را مطالبه کنیم و شرکتهایی را که موجب آسیب میشوند پاسخگو نگه داریم.
دو سال پیش، شرکت هواپیمایی ایر کانادا این درس را آموخت. چتبات هوش مصنوعی این شرکت به یکی از مشتریان وعدهی تخفیفی داد که شرکت بعداً حاضر نشد آن را بپذیرد. ایر کانادا در دادگاه استدلال کرد که شرکت مسئول وعدههای چتباتش نیست، زیرا چتبات «یک شخصیت حقوقی مستقل است که مسئول اعمال خودش است».
دادگاه به نفع مسافر رأی داد و اعلام کرد که شرکت هواپیمایی همانقدر در قبال مطالبی که چتباتش بیان میکند مسئول است که در قبال مطالب منتشرشده در وبسایتش مسئولیت دارد. رویهی قضاییای که ممکن است از این حکم شکل بگیرد، این است که شرکتها در قبال عملکرد چتباتهای هوش مصنوعیای که به کار میگیرند، تکلیف قانونی به مراقبت دارند.
عاملهای هوش مصنوعی، نمایندگان شخص یا سازمانیاند که آنها را به کار گرفته است و قانون نیز باید با آنها همینگونه رفتار کند. اگر شرکتی نویسندگان انسانی را برای تهیهی خلاصههایش استخدام میکرد، در قبال اشتباهات موجود در آن خلاصهها مسئول بود. اگر نمایندهی انسانی یک شرکت از طرف آن شرکت قراردادی را امضا میکرد، شرکت به مفاد آن قرارداد متعهد میشد. همچنین اگر پزشکی توصیهی پزشکی خطرناک و نادرستی ارائه میداد، ممکن بود بهدلیل قصور پزشکی مسئول شناخته شود.
اجازهدادن به کسبوکارها برای اینکه در چنین شرایطی پشت بهانهی «هوش مصنوعی معیوب بود» پنهان شوند، امتیازی عظیم و ناعادلانه به شرکتها خواهد بود. چنین وضعیتی انگیزههایی فاجعهبار برای رفتار نادرست شرکتها ایجاد میکند.
وقتی هوش مصنوعی نهتنها ارزانتر است، بلکه هر بار که اشتباه میکند کارفرما را نیز از مسئولیت مبرا میسازد، دیگر چرا شرکتی باید نویسنده، وکیل یا پزشک انسانی استخدام کند؟
ما بهسرعت بهسوی جهانی حرکت میکنیم که در آن، در سوی دیگر انواع کانالهای ارتباطی شرکتها، چتباتهای مبتنی بر هوش مصنوعی قرار خواهند داشت. منطقی نیست که یک شرکت هر زمان که به نفعش بود، اظهارات عامل خود را معتبر بداند و هر زمان که آن اظهارات برایش دردسرساز شدند، از آنها اعلام برائت کند.
ویزا و OpenAI بهتازگی از همکاری مشترکی برای ساخت عاملهای شخصی هوش مصنوعی خبر دادهاند. یکی از وظایف این عاملها انجام خرید از طرف کاربران خواهد بود. این فقط یکی از پروژههای مشابه فراوانی است که در دست اجرا قرار دارند؛ زیرا شرکتها با یکدیگر رقابت میکنند تا برای همهی ما دستیارهای هوش مصنوعی فراهم کنند.
اگر هوش مصنوعی ویزا به نام شما خریدی انجام دهد که آن را نمیخواهید، آیا ویزا مسئولیتش را میپذیرد؟ اگر ویزا حاضر نباشد مسئولیت آن خرید را قبول کند، چرا کسی باید به چنین سیستمی اعتماد کند؟ تعیین درست مسئولیت حقوقی برای عملیشدن چنین فناوریهایی ضروری است.
اگر حکم دادگاه آلمان پابرجا بماند، ممکن است برای قابلیت «مرور هوش مصنوعی» گوگل پیامدهای ویرانگری داشته باشد. آزمایشهایی که اوایل امسال انجام شدند نشان دادند این قابلیت تقریباً در ۱۰ درصد موارد اشتباه میکند. با بیش از پنج تریلیون جستوجو در سال، این میزان خطا به معنای تولید حدود ۱۶ هزار خلاصهی اشتباه در هر ثانیه است.
بیشتر این خطاها بیضررند، اما برخی از آنها موجب آسیب میشوند، افتراآمیز خواهند بود یا از راههای دیگری مسئولیت حقوقی ایجاد خواهند کرد.
اوایل امسال، خلاصهی هوش مصنوعی گوگل بهاشتباه اشلی مکآیزاک، ویولننواز کانادایی موسیقی فولک، را مجرم جنسی معرفی کرد. شکایت او که در استان انتاریو ثبت شده است، همچنان در جریان است.
اگر گوگل مجبور شود آنقدر برای بهبود سامانهی هوش مصنوعی خود سرمایهگذاری کند تا چنین اشتباهاتی بهشدت نادر شوند، این نتیجه هم برای کاربران و هم برای کسانی مانند مکآیزاک که موضوع نتایج جستوجو قرار میگیرند، نتیجهی مطلوبی خواهد بود.
در سطحی کلیتر، نگرانیهای مربوط به مسئولیت حقوقی ممکن است باعث شوند بسیاری از کاربردهای کنونی عاملهای هوش مصنوعی از نظر تجاری صرفه نداشته باشند. اگر شرکتها در قبال آنچه وکلای هوش مصنوعی، پزشکان هوش مصنوعی و عاملهای هوش مصنوعی فعال در رسانهها میگویند و انجام میدهند مسئول شناخته شوند، شاید نتوانند این خدمات را بهشکلی سودآور ارائه کنند.
از نظر ما، چنین نتیجهای قابل قبول است. هیچ چیز در قانون ما را ملزم نمیکند که برای سامانههای هوش مصنوعی، در صورتی که اساساً غیرقابلاعتماد باشند، جا باز کنیم یا قوانین را با آنها سازگار سازیم؛ همانطور که مجبور نیستیم سامانههای انسانی غیرقابلاعتماد را نیز بپذیریم.
هر شرکتی که حاضر نباشد پای سخنان و اقدامات نمایندگانش، چه انسان باشند و چه هوش مصنوعی، بایستد، شایستهی وقت یا پول کاربران نیست.
———————————————————–
شما حساب کنین در ایران شخص حقیقی/حقوقی برای فروش خرافات، آت و آشغال و چرتوپرت/بیمسئولیتی به کسی جواب نمیده; به راحتی فعالیت میکنن و از اعتماد آدمها سواستفاده ميکنن و کرامت و حرمت انسانها رو له میکنن- فقط جمهوری اسلامی نیست، یه سریها هم از وضعیت لجن جمهوری اسلامی برای خودشون دم و دستگاه و دکون دارن… اونوقت هوش مصنوعی رو هم روش اضافه کنین. آنلیش شده…
اون طرفترهای آب، سازمانهایی هستن مثل EFF ، آدمهای عزیزی مثل بروس اشنایر، که این مسائل رو قشنگ میفهمند و مطرح ميکنندشون، رسانههایی که این موضوعها رو منتشر میکنند، البته سیستم قضایی درست و حسابی هم دارند. این طرفتر آب هم باید همچین سازمانهایی باشه که پیامدهای منفی رو ببینن، مشکلات رو بگن و یکی شاید راه حل داشته باشه… راه حل هم هست، اونطرف آب چیکار میکنن برای این مشکلات؟ اون راه حلها رو شاید بشه بومیسازی کرد. شاید، نميدونم. زمینه پیاده کردن اون راه حلها هم باید فراهم باشه! شاید راه حل جدید دیگه!
اصلن هم منظورم رو به دایناسور شدن نیست. من با دوستی صحبت میکردم، تهدیداتی که هوشمصنوعی به همراش داره رو میگفتم، مقداری نگران شده بود که من از هوش مصنوعی استفاده نمیکنم؟ 🙂 داستان اینجاست که من به شکل خوبی در شغلم از هوش مصنوعی استفاده میکنم، یعنی یک بایده- اما مشکلاتش رو هم از دید خودم (ممکنه ناقص/اشتباه باشه) میبینم و میگم. اینها با هم مغایرت ندارن.
و اینکه لزومی نداره کسی که مشکلی رو میبینه و میگه، حتمن براش راه حل داشته باشه. یکی مشکلات رو میبینه و میگه، یکی دیگه راه حل میده.
در انتها با تشکرات فراوان از بروس اشنایر عزیز و بچههای EFF و کلی آدم باحال دیگه