چه کسی توسط یک ماشین خودران کشته می شود؟ ماشین، هر چه بیشتر مردم را نجات دهید، اما مهمتر از همه، من را نجات دهید!
اگر موقعیتی پیش بیاید که سیستم خودمختار یک خودرو باید سریعاً انتخاب کند که در صورت تصادف قریب الوقوع چه کسی را قربانی کند، چگونه باید واکنش نشان دهد؟ قربانی کردن مسافران برای نجات عابران پیاده؟ در صورت لزوم، یک عابر پیاده را بکشید تا به عنوان مثال یک خانواده چهار نفره که با ماشین سفر می کنند نجات دهید؟ یا شاید او همیشه باید اول از خودش محافظت کند؟
در حالی که بیش از شصت شرکت در حال حاضر تنها در کالیفرنیا مجوز آزمایش شخصی دریافت کرده‌اند، به سختی می‌توان گفت که صنعت آماده مواجهه با دوراهی‌های اخلاقی است. در حال حاضر، او با مشکلات اساسی تری دست و پنجه نرم می کند - عملکرد و کارایی ناوبری سیستم ها و صرفاً اجتناب از برخوردها و رویدادهای پیش بینی نشده. در شرایطی مانند قتل اخیر یک عابر پیاده در آریزونا یا تصادفات بعدی (1)، تا کنون فقط در مورد خرابی سیستم بوده است، و نه نوعی "انتخاب اخلاقی" خودرو.
ثروتمندان و جوانان را نجات دهید
مسائل اتخاذ این نوع تصمیمات، مسائل انتزاعی نیستند. هر راننده با تجربه ای می تواند این را تایید کند. سال گذشته، محققان آزمایشگاه رسانه MIT بیش از چهل میلیون پاسخ از پاسخ دهندگان از سراسر جهان را که در طول تحقیقاتی که در سال 2014 راه اندازی شد، جمع آوری کردند، تجزیه و تحلیل کردند. سیستم نظرسنجی که آنها را "ماشین اخلاقی" می نامند، نشان داد که در نقاط مختلف اطراف در جهان، سوالات مشابه پاسخ های متفاوتی پرسیده می شود.
کلی ترین نتیجه گیری ها قابل پیش بینی هستند. در شرایط شدید مردم نجات مردم را به مراقبت از حیوانات ترجیح می دهند، با هدف نجات جان هر چه بیشتر، و تمایل دارند از افراد مسن جوان تر باشند (2). همچنین در مورد نجات زنان نسبت به مردان، افراد با موقعیت بالاتر نسبت به افراد فقیرتر، و عابران پیاده نسبت به مسافران اتومبیل، ترجیحاتی وجود دارد، اما کمتر آشکار است..
2. ماشین باید چه کسی را نجات دهد؟
از آنجایی که تقریباً نیم میلیون پاسخ‌دهنده پرسشنامه‌های دموگرافیک را پر کردند، می‌توان ترجیحات آنها را با سن، جنسیت و اعتقادات مذهبی مرتبط کرد. محققان به این نتیجه رسیدند که این تفاوت‌ها بر تصمیم‌گیری‌های افراد «تأثیر قابل‌توجهی» ندارند، اما برخی تأثیرات فرهنگی را مورد توجه قرار دادند. برای مثال، فرانسوی‌ها تمایل داشتند تصمیمات را بر اساس تعداد تخمینی مرگ و میرها ارزیابی کنند، در حالی که در ژاپن کمترین تأکید بود. با این حال، در سرزمین طلوع خورشید، به زندگی سالمندان بسیار بیشتر از غرب ارزش داده می شود.
قبل از اینکه اجازه دهیم خودروهایمان تصمیمات اخلاقی خود را بگیرند، باید یک بحث جهانی در مورد این موضوع داشته باشیم. دانشمندان در اکتبر 2018 در نیچر نوشتند، وقتی شرکت‌هایی که روی سیستم‌های مستقل کار می‌کنند، ترجیحات ما را یاد بگیرند، الگوریتم‌های اخلاقی را در ماشین‌ها بر اساس آنها توسعه خواهند داد و سیاستمداران می‌توانند مقررات قانونی کافی را معرفی کنند.
یکی از محققانی که در آزمایش ماشین اخلاقی شرکت داشت، ژان فرانسوا بونفونت، ترجیح برای نجات افراد با موقعیت بالاتر (مانند مدیران نسبت به بی خانمان ها) را نگران کننده دانست. به نظر او این موضوع بسیار مرتبط است سطح نابرابری اقتصادی در یک کشور معین. در جایی که نابرابری ها بیشتر بود، قربانی کردن فقرا و بی خانمان ها ترجیح داده می شد.
یکی از مطالعات قبلی به ویژه نشان داد که به گفته پاسخ دهندگان، یک خودروی خودران باید تا حد امکان از افراد بیشتری محافظت کند، حتی اگر به معنای از دست دادن مسافران باشد. با این حال، در همان زمان، پاسخ دهندگان اعلام کردند که خودرویی را که به این شکل برنامه ریزی شده است، خریداری نمی کنند. محققان توضیح دادند که در حالی که مردم صرفه جویی در افراد بیشتری را اخلاقی تر می دانند، آنها به نفع خود نیز هستند، که می تواند سیگنالی برای تولیدکنندگان باشد مبنی بر اینکه مشتریان تمایلی به خرید خودروهای مجهز به سیستم های نوع دوستانه ندارند.. چندی پیش نمایندگان شرکت مرسدس بنز گفتند که اگر سیستم آنها فقط یک نفر را نجات دهد، راننده را انتخاب می کنند نه عابر پیاده. موجی از اعتراضات عمومی، شرکت را مجبور به پس گرفتن اعلامیه خود کرد. اما تحقیقات به وضوح نشان می دهد که در این غضب مقدس نفاق زیادی وجود داشته است.
این در حال حاضر در برخی از کشورها اتفاق می افتد. اولین تلاش برای تنظیم قانونی در زمینه آلمان قانونی را تصویب کرده است که خودروهای بدون راننده را ملزم می کند به هر قیمتی از آسیب یا مرگ جلوگیری کنند. این قانون همچنین می گوید که الگوریتم ها هرگز نمی توانند بر اساس ویژگی هایی مانند سن، جنسیت، سلامت یا عابران پیاده تصمیم گیری کنند.
آئودی مسئولیت را بر عهده می گیرد
طراح قادر به پیش بینی تمام عواقب عملکرد ماشین نیست. واقعیت همیشه می تواند ترکیبی از متغیرهایی را ارائه دهد که قبلاً هرگز آزمایش نشده اند. این باور ما را به امکان "برنامه‌نویسی اخلاقی" یک ماشین تضعیف می‌کند. به نظر ما در مواقعی که خطایی رخ می دهد و فاجعه ای «به دلیل تقصیر خودرو» رخ می دهد، مسئولیت آن بر عهده سازنده و سازنده سیستم باشد.
شاید این استدلال درست باشد، اما شاید نه به این دلیل که اشتباه بوده است. بلکه به این دلیل که جنبشی مجاز بود که 2019٪ از امکان ایجاد آن خالی نبود. به نظر می رسد دلیل این امر باشد و این شرکت از مسئولیت مشترک شانه خالی نمی کند، زیرا اخیراً اعلام کرده است که مسئولیت تصادفات مربوط به یک A8 3 ساله را در حالی که از سیستم خودکار پایلوت ترافیک (XNUMX) در آن استفاده می کند، بر عهده می گیرد.
3. Audi Traffic Jam Pilot Interface
از طرفی میلیون ها نفر هستند که ماشین می رانند و همچنین اشتباه می کنند. پس چرا باید ماشین هایی که از نظر آماری اشتباهات بسیار کمتری نسبت به انسان ها مرتکب می شوند، همانطور که اشتباهات متعدد نشان می دهد، باید در این زمینه مورد تبعیض قرار گیرند؟
اگر کسی فکر می کند که معضلات اخلاق و مسئولیت در دنیای خودروهای خودران ساده است، به فکر کردن ادامه دهد...
