وقتی جوابِ هوش مصنوعی یک‌طرفه است: سوگیری را چطور ببینیم

نوشتهٔ تیمِ چندهوش · ۶ آبان ۱۴۰۵ · ۸ دقیقه مطالعه

هر مدلی از متن‌هایِ انسان‌ها یاد گرفته و تمایل‌هایِ آن‌ها را هم با خود دارد. این مقاله می‌گوید سوگیری چیست، با تملق چه فرقی دارد و چرا دیدنِ چند نگاه کنارِ هم آن را آشکارتر می‌کند.

سوگیری هوش مصنوعی یعنی مدل بی‌آن‌که متوجه باشی، به یک نوع جواب، یک گزینه یا یک چارچوبِ فکری بیشتر از بقیه تمایل نشان دهد. این تمایل از داده‌هایی می‌آید که مدل با آن یاد گرفته و از شیوه‌ای که سؤال را می‌پرسی. نمی‌شود آن را کاملاً از بین برد، ولی می‌شود دید و با گرفتنِ چند نگاهِ مستقل کم‌اثرش کرد.

این مقاله عمداً سراغِ مثال‌هایِ سیاسی نمی‌رود. سوگیری در تصمیم‌هایِ روزمره‌یِ کار و زندگی همان‌قدر واقعی است و دیدنش ساده‌تر: انتخابِ ابزار، معیارِ استخدام، توصیه‌یِ عادت‌هایِ سلامت، قیمت‌گذاریِ محصول.

سوگیری هوش مصنوعی از کجا می‌آید

مدل‌ها از حجمِ عظیمی از متنِ نوشته‌شده‌یِ انسان‌ها یاد می‌گیرند. آنچه بیشتر نوشته شده، پررنگ‌تر یاد گرفته می‌شود. اگر درباره‌یِ یک روشِ کار هزار مقاله نوشته شده و درباره‌یِ روشِ دیگر ده‌تا، مدل طبیعی است که اولی را «معمول» بداند. چند منبعِ رایج:

• داده‌یِ آموزش: هر چه بیشتر نوشته شده یا به زبانی بیشتر در دسترس است، سنگین‌تر وزن می‌گیرد. زبانِ فارسی در بسیاری از موضوع‌ها کمتر از انگلیسی نماینده دارد.
• آموزشِ بعدی با بازخوردِ انسان: مدل‌ها طوری تنظیم می‌شوند که جوابی بدهند که آدم‌ها بپسندند. این می‌تواند جواب را به سمتِ «پسندیده» ببرد، نه لزوماً «دقیق».
• شیوه‌یِ سؤالِ تو: کلمه‌هایی که انتخاب می‌کنی، گزینه‌ای که اول می‌آوری و جمله‌ای که نظرت را لو می‌دهد.
• زمینه‌ای که فراهم می‌کنی: اگر فقط اطلاعاتِ یک سمت را بدهی، جواب هم یک‌سمتی می‌شود.

پس سوگیری فقط «ایرادِ مدل» نیست؛ بخشی از آن حاصلِ تعامل است. این خبرِ خوبی است، چون بخشی از آن در اختیارِ تو است.

سوگیری با تملق چه فرقی دارد

این دو را معمولاً قاطی می‌کنند. تملق (sycophancy) یعنی مدل با نظرِ تو موافقت می‌کند چون تو آن را گفته‌ای. اگر نظرت را عوض کنی، جوابش هم عوض می‌شود. سوگیری یعنی مدل حتی بدونِ نظرِ تو به یک طرف می‌چرخد، چون در دلِ داده‌ها و تنظیمش چنین تمایلی هست. تملق را با عوض‌کردنِ نظرِ ظاهری‌ات می‌توانی آزمود؛ سوگیری را با این‌که جواب را کنارِ منبع‌هایِ دیگر بگذاری. درباره‌یِ تملق و راه‌حلش در چرا هوش مصنوعی همیشه با من موافق است نوشته‌ایم؛ این‌جا سراغِ سوگیری می‌رویم.

چند نمونه از سوگیری در تصمیم‌هایِ عادی

این‌ها نمونه‌هایِ فرضی‌اند و فقط شکلِ مسئله را نشان می‌دهند:

• انتخابِ فناوری: از مدل می‌پرسی برایِ پروژه‌یِ کوچکت چه ابزاری مناسب است و همیشه یکی از چند ابزارِ پرطرفدار را معرفی می‌کند، چون درباره‌یِ آن‌ها بیشتر نوشته شده، نه چون برایِ پروژه‌یِ تو بهتر است.
• معیارِ استخدام: می‌خواهی ملاک‌هایِ ارزیابیِ یک نیرو را فهرست کنی و مدل ملاک‌هایی را می‌آورد که در متن‌هایِ شرکت‌هایِ بزرگ رایج است، حتی اگر کارِ تو چیزِ دیگری بخواهد.
• توصیه‌یِ عادت‌هایِ سلامت: جواب به سمتِ توصیه‌هایِ پرتکرارِ عمومی می‌رود و شرایطِ خاصِ تو را نادیده می‌گیرد. برایِ هر مسئله‌یِ پزشکی با پزشک مشورت کن.
• قیمت‌گذاری: مدل به قیمت‌گذاریِ «رایج» تمایل دارد، در حالی که موقعیتِ تو شاید متفاوت باشد.
• طرحِ بازاریابی: پیشنهادها به شعارها و کانال‌هایِ آشنا می‌چرخند و راهِ تازه کم پیشنهاد می‌شود.

الگو یکی است: مدل به سمتِ «محتمل‌ترین» و «پرتکرارترین» می‌رود. محتمل‌ترین جواب لزوماً درست‌ترین یا مناسب‌ترین برایِ تو نیست.

چرا نمی‌توان گفت کدام مدل سوگیری ندارد

وسوسه‌انگیز است که بپرسی «کدام مدل بی‌طرف‌تر است؟» ولی جوابِ صادقانه این است که هیچ‌کس نمی‌تواند این را برایِ همه‌ی موضوع‌ها و برای همیشه بگوید. مدل‌ها با هر نسخه عوض می‌شوند و هر کدام در موضوعی ممکن است بیشتر بچرخد. به همین دلیل ما درباره‌یِ هیچ مدلی نمی‌گوییم بیشتر یا کمتر سوگیر است. راهِ درست این است که روی سؤالِ خودت چند مدل را امتحان کنی و ببینی کجا فرق می‌کنند. اگر دنبالِ مقایسه‌یِ سبک‌هایی، صفحه‌یِ مدل‌ها نقطه‌یِ شروعِ خوبی است.

چطور سوگیری هوش مصنوعی را در عمل کم کنیم

1. چند مدل بپرس. اگر چند مدل از خانواده‌هایِ مختلف همان تمایل را نشان دادند، شاید تمایل در خودِ موضوع است؛ اگر فرق کردند، همان اختلاف سرنخ است.
2. سؤال را بی‌طرف بنویس. گزینه‌ها را با وزنِ برابر معرفی کن و نظرت را نگو. نوشتنِ سؤالِ خوب را در نوشتن پرامپت برای مشورت با هوش مصنوعی دیده‌ای؛ ابزارِ پرامپت‌ساز هم در این کار کمک می‌کند.
3. گزینه‌یِ مخالف را بخواه. از مدل بخواه قوی‌ترین دلیل برایِ طرفِ مقابل را بیاورد.
4. چارچوب را عوض کن. همان تصمیم را یک بار از نگاهِ هزینه، یک بار از نگاهِ ریسک و یک بار از نگاهِ مشتری بپرس.
5. پرسش‌هایِ «چرا» بپرس. از مدل بخواه دلیلش را بگوید؛ بعضی تمایل‌ها وقتی دلیل خواسته شود لو می‌روند.
6. داده‌یِ خودت را بده. هرچه زمینه‌یِ واقعیِ بیشتری بدهی، مدل کمتر به «حالتِ متوسط» برمی‌گردد.

یک نمونه‌ی فرضی: انتخابِ معیار برایِ استخدامِ یک نیرو

این بخش نمونه‌ی فرضی است؛ نشست، کاربر و نتیجه‌یِ واقعی نیست.

فرض کن مدیرِ یک شرکتِ کوچک هستی و می‌خواهی معیارهایِ انتخابِ یک نیرو برایِ پشتیبانی را مشخص کنی. اگر از یک مدل بپرسی، احتمالاً فهرستی شبیهِ آگهی‌هایِ استخدامِ رایج می‌گیری: سابقه، مدرک، مهارتِ ارتباطی. این بد نیست، ولی شاید دقیقاً با موقعیتِ تو جور نباشد.

• نوعِ نشست: «مناظره». موضوع را به دو ادعا بشکن: «سابقه مهم‌تر از روحیه‌ی یادگیری است» در برابرِ «روحیه‌ی یادگیری مهم‌تر از سابقه است». نیمه‌یِ اولِ صندلی‌ها موافق و نیمه‌یِ دوم مخالف می‌شوند و یک داورِ مستقل می‌گوید کدام طرف قوی‌تر بود. روشِ کار را در مناظره هوش مصنوعی توضیح داده‌ایم.
• صندلی‌ها: چهار صندلی از خانواده‌هایِ مختلف، و صندلیِ «وکیلِ مدافعِ شیطان» برایِ این‌که هیچ طرف زود راحت نشود.
• عمق: «عادی».
• پیوست: توضیحِ کوتاهِ نقش و دو نمونه از مشکلاتی که تیمت واقعاً با آن‌ها روبه‌رو است، بدونِ نامِ هیچ فرد.

حکمِ چنین نشستی می‌تواند اینها را داشته باشد: توافق بر این‌که برایِ این نقش، رفتار در شرایطِ فشار مهم‌تر از مدرک است؛ اختلاف بر سرِ وزنِ سابقه؛ قوی‌ترین مخالفتِ باقی‌مانده این‌که معیارِ «روحیه‌ی یادگیری» را نمی‌شود در یک مصاحبه سنجید؛ و توصیه به یک آزمونِ کاریِ کوتاه. نکته‌ی اصلی این است که معیارِ «رایج» وقتی با نگاهِ مخالف روبه‌رو شد، به معیارِ مناسبِ تو نزدیک‌تر می‌شود. برای انتخاب بینِ چند گزینه هم انتخابِ بهترین گزینه با هوش مصنوعی را ببین.

اشتباه‌هایی که سوگیری را بزرگ‌تر می‌کنند

بخشی از سوگیری را خودمان با عادت‌هایمان تقویت می‌کنیم. چند نمونه از رایج‌ترین‌ها:

• پرسیدنِ سؤالِ بسته: «آیا ابزارِ الف برایِ تیمِ من خوب است؟» فقط یک گزینه را روی میز می‌گذارد. بپرس «برایِ این تیم و این قیدها چه گزینه‌هایی هست و هر کدام کجا می‌لنگد؟»
• دادنِ نظرِ خودت در سؤال: «به نظرم گزینه‌یِ دوم بهتر است، درست می‌گویم؟» این هم تملق را بیدار می‌کند هم هر سوگیریِ موجود را به نفعِ تو تقویت.
• گرفتنِ فقط یک جواب: اگر یک بار بپرسی و همان را بپذیری، تمایلِ همان نوبت را هم پذیرفته‌ای. حتی دوباره‌پرسیدنِ همان سؤال از همان مدل، گاهی تفاوت‌هایی نشان می‌دهد.
• نخواندنِ استدلال: فقط نتیجه را برداشتن یعنی نمی‌بینی مدل بر کدام فرض تکیه کرده. فرضی که تکیه‌گاهِ جواب است، اغلب جایی است که سوگیری پنهان است.
• یکی‌دانستنِ «رایج» با «مناسب»: اگر مدل پیشنهادی داد که همه جا دیده‌ای، از خودت بپرس آیا برایِ موقعیتِ من هم درست است یا فقط آشناست.

در چندهوش بخشی از این کارها خودکار است. هر صندلی جداگانه و بدونِ دیدنِ جوابِ دیگران نظر می‌دهد، سپس نقدِ متقابل می‌آید و صندلیِ «وکیلِ مدافعِ شیطان» عمداً مخالفت می‌کند. همین ساختار جلوی هم‌صدایی زودهنگام را می‌گیرد. ولی نتیجه هر چه باشد، سنجیدنِ ادعاهای کلیدی با منبعِ بیرونی با خودت است.

محدودیت‌ها را فراموش نکن

چند مدل هم سوگیری را صفر نمی‌کنند. اگر همه‌یِ مدل‌ها از داده‌هایِ مشابه یاد گرفته باشند، ممکن است یک تمایلِ مشترک داشته باشند و همگی یک اشتباه را تکرار کنند. توافقِ مدل‌ها دلیلِ درستی نیست. به همین دلیل در چندهوش اختلاف نشان داده می‌شود و حکم طوری نوشته می‌شود که ادعاهایش قابلِ بررسی باشد. برایِ تصمیم‌هایِ جدیِ پزشکی، حقوقی یا مالی هم نتیجه را با متخصصِ انسانی مرور کن. و اگر نگرانی‌ات این است که چنین کاری چقدر هزینه دارد، مقاله‌یِ هوش مصنوعی رایگان یا پولی کمک می‌کند بسنجی کی ارزشش را دارد.

جمع‌بندی

سوگیری هوش مصنوعی عیبِ یک مدلِ خاص نیست؛ نتیجه‌یِ داده، آموزش و شیوه‌یِ سؤالِ ما است. با تملق فرق دارد: تملق به نظرِ تو واکنش نشان می‌دهد و سوگیری حتی بدونِ آن هم هست. راهِ مقابله ساده است: سؤالِ بی‌طرف بنویس، چند نگاهِ مستقل بگیر، گزینه‌یِ مخالف را بخواه و چارچوب را عوض کن. با این‌ها سوگیری ناپدید نمی‌شود، ولی دیده می‌شود، و دیده‌شدن نیمی از حل‌شدن است. برای دیدنِ این روند در عمل، به شرحِ بحثِ چند هوش مصنوعی با هم سر بزن.