کاروتک

تکنولوژی و علمی

تلویزیون و سینما

تلویزیون کاروتک

بخشی از انسان بود، توانایی سرپیچی از شانس‌هایی که در مقابل انسان قرار می‌گیرد. پیش‌گویی‌های الگوریتمی این موضوع را تضعیف می‌کند. آیا پیش‌بینی‌های آینده از سوی هوش مصنوعی، بر آزادی انسان‌ها تأثیر خواهد داشت یا خیر؟ با ما در کارو تک همراه باشید.

همان‌طور که این کلمات را می‌خوانید، احتمالاً ده‌ها الگوریتم وجود دارد که در مورد شما پیش‌بینی می‌کنند. احتمالاً یک الگوریتم هم تعیین می‌کرد که شما در معرض این مقاله قرار می‌گیرد چراکه پیش‌بینی می‌کرد آن را بخوانید. پیش‌بینی‌های الگوریتیم می‌توانند تعیین کنند که آیا وام دریافت می‌کنید یا نه، یا این‌که به شغل آینده و آپارتمان مورد علاقه‌تان می‌رسید یا خیر. این تحلیل‌های پیش‌بینی‌کننده، حوزه‌های بیشری از زندگی را تسخیر می‌کنند. با این حال، هیچ کس از شما برای انجام چنین پیش‌بینی‌هایی اجازه نخواسته است و هیچ نهاد دولتی بر آن‌ها نظارت نمی‌کند. هیچ‌کس شما را در مورد پیش‌گویی‌هایی که سرنوشت شما را تعیین می‌کند، آگاه نمی‌کند. حتی بدتر از آن، جستجو در دبیات آکادمیک در ارتباط با اخلاق پیش‌بینی نشان می‌دهد که این حوزه از جمله علوم و دانش‌هایی شناخته می‌شود که کمتر مورد بررسی قرار گرفته است. به‌عنوان یک جامعه، ما به پیامد‌های اخلاقی پیش‌بینی در مورد زندگی افراد فکر نکرده‌ایم؛ موجوداتی که قرار بود زندگی‌ای آزاد داشته و صاحب اختیار باشند.

سرپیچی از شانس در بطن معناییِ انسان بودن است. بزرگ‌ترین قهرمانان ما کسانی هستند که از سرنوشت خود سرپیچی کرده‌اند: آبراهام لینکلن، ماهاتما گاندی، ماری کوری، هلن کلر، رزا پارکس، نلسون ماندلا و اشخاصی از این دست. همه آن‌ها فراتر از حد انتظار موفق شده‌اند. هر معلم مدرسه بچه‌هایی را می‌شناسد که بیش از آن‌چه در کارت‌هایشان داده شده بود، به دست آورده‌اند. علاوه بر بهبود وضعیت پایه همگان، ما جامعه‌ای می‌خواهیم که آزادی را به ما بدهد و اقداماتی در جهت مخالفت‌ها پیش بگیرد. با این حال، هرچه بیشتر از هوش مصنوعی برای دسته‌بندی افراد، پیش‌بینی آینده و رفتارها استفاده می‌کنیم،‌عامل انسانی را محدودتر کرده‌ایم که به نوبه خود،‌ما را در معرض خطرات ناشناخته قرار می‌دهد.

انسان‌ها از قبل از پیش‌بینی Delphi، از روش‌های پیش‌گویی استفاده می‌کردند. جنگ‌ها از جمله عواملی بودند که با توجه به این پیش‌گویی‌ها به راه افتادند. در دهه‌های اخیر، پیش‌بینی برای اطلاع از شیوه‌هایی مانند تعیین حق بیمه نیز استفاده شده است. این پیش‌بینی‌ها معمولاً در مورد گروه‌های بزرگی از مردم بود؛ برای مثال، چند نفر از ۱۰۰۰۰۰ نفر با ماشین‌های‌ خود تصادف می‌کنند. برخی از این افراد نسبت به دیگران محتاط‌تر و خوش‌شانس‌تر خواهند بود اما حق بیمه‌ آن‌ها تقریباً یکسان می شود (به استثنای گروه‌های وسیعی مانند اشخاصی با سنین مختلف). با این فرض، ادغام ریسک تصادف‌ها اجازه می‌دهد تا هزینه‌های بالاتر افراد کم‌دقت و با هزینه‌های نسبتاً کم‌تر جبران شود. هرچه استخری بزرگ‌تر باشد، حق بیمه قابل پیش‌بینی و پایدارتر خواهد بود.

امروزه، پیش‌بینی بیشتر از طریق الگوریتم‌های یادگیری ماشینی انجام می‌شود که از آمار برای پر کردن جاهای خالی مجهولات استفاده می‌کنند. الگوریتم‌های متنی از پایگاه‌های اطلاعاتی زبانیِ بسیار زیادی برای پیش‌بینی معقول‌ترین پایان‌های رشته کلمات یاری می‌جویند، الگوریتم‌های بازی از داده‌های بازی‌های گذشته برای پیش‌بینی بهترین حرکتِ ممکن بعدی استفاده می‌کنند و الگوریتم‌هایی که برای رفتار انسان به‌کار می‌روند، از داده‌های تاریخی برای استنباط آینده ما استفاده می‌کنند؛ چه چیزی می‌خریم؟، آیا می‌خواهیم شغل خود را تغییر دهیم؟، آیا قرار است مریض شویم یا دست به ارتکاب جرم بزنیم؟ در چنین مدلی، بیمه دیگر برای جمع‌آوری ریسک، از داده‌های مجموعه بزرگی از افراد استفاده نمی‌کند. در عوض، پیش‌بینی به‌شکلی فردی انجام می‌شود و شما به‌طور فزاینده‌ای با توجه به امتیازات ریسک شخصی‌تان، راهی برای پرداخت انتخاب می‌کند؛ که مجموعه‌ای جدید از نگرانی‌های اخلاقی را ایجاد می‌کند.

ویژگی مهم پیش‌بینی‌ها این است که واقعیت را توصیف نمی‌کنند. پیش‌بینی درباره آینده است نه حال، و آینده چیزی است که هنوز به واقعیت تبدیل نشده است. پیش‌بینی یک حدس است و انواع ارزیابی‌ها و سوگیری‌های ذهنی در مورد ریسک و ارزش‌ها در آن گنجانده شده است. مطمئناً می‌توان پیش‌بینی‌هایی را انجام داد که کمابیش دقیق هستند اما رابطه بین احتمال و بالفعل بودن بسیار ضعیف‌تر و از نظر اخلاقی مشکل‌ساز‌تر آن چیزی است که برخی تصور می‌کنند. اما امروزه مؤسسات اغلب سعی می‌کنند پیش‌بینی‌ها را به‌گونه‌ای طراحی کنند که مبتنی بر واقعیت‌های عینی باشند و حتی زمانی که پیش‌بینی‌های هوش مصنوعی صرفاً احتمالی هستند، اغلب در عمل به‌عنوان قطعی تعبیر می‌شوند؛ تا حدی به این دلیل که انسان در درک قوی‌ در احتمالات ندارند، تا حدودی به‌این دلیل که انگیزه‌های پیرامون اجتناب از خطر، منجر به تقویت پیش‌بینی می‌شود. (به‌عوان مثال، اگر احتمالی وجود داشته باشد که فردی ۷۵ درصد کارمند بدی باشد، شرکت‌ها نمی‌خواهند ریسک استخدام وی را بپذیرند درحالی که نازمدهایی با امتیاز ریسک پایین‌تری دارند.)

روش‌هایی که ما از پیش‌بینی‌ها استفاده می‌کنیم، مسائل اخلافی را مطرح می‌کنند که به یکی از قدیمی‌ترین بحث‌ها در فلسفه منتفی می‌شوند: اگر سرنوشت وجود داشته باشد، می‌توان گفت که آیا ما واقعاً آزاد هستیم؟ اگر سرنوشت هرآنچه از پیش اتفاق افتاده را در خود جای داده، پس زندگی ما از پیش تعیین‌شده است؛ در غیر این صورت غیرقابل دانستن خواهد بود. مفهوم این است که احساس آزادی ما چیزی جز ای نیست: یک احساس.

آن‌چه در مورد این استدلال، فراتر از سوالات فلسفی، نگران‌کننده است، ایده این است که اگر پیش‌بینی‌های دقیق امکان‌پذیر باشد (صرف نظر از این‌که چه کسی یا چه چیزی آن را انجام می‌دهد)، پس آن چیزی که پیش‌بینی شده، قبلاً تعیین شده است. در عصر هوش مصنوعی،‌این نگرانی بیش از پیش برجسته می‌شود چراکه تجزیه و تحلیل‌های پیش‌بینی‌کننده دائماً افراد را هدف قرار می‌دهند. یک مشکل اخلاقی عمده این است که با پیش‌بینی‌هایی درباره رفتار انسان، درست مانند پیش‌بینی‌هایی که درباره آب‌وهوا انجام می‌دهیم، رفتار ما با مردم مثل اشیاء اطراف‌مان می‌شود. بخشی از معنای رفتار محترمانه با یک فرد، تصدیق اختیار و توانایی وی برای تغییر خود و شرایط‌اش است. اگر تصمیم بگیریم که آینده کسی را قبل از رسیدن بدانیم و مطابق آن با وی رفتار کنیم، به او این فرصت را نمی‌دهیم که آزادانه عمل کند و از احتمالات آن سرپیچی کند.