خودرو بدون راننده

چند ماه اخیر، اخبار خودروهای بدون راننده یا Autonomous Cars که من ترجیح می‌دهم آن‌ها را خودران بنامم،  زیاد شده است.

نکته ای در مورد معادل فارسی Autonomous Car (فعلاً: خودرو بدون راننده)

بر روی استفاده از خودران تاکید دارم. چون اگر حواسمان نباشد، ممکن است طی چند سال آینده که خودران‌ها وارد کشور شدند، با معادل‌های شگفت انگیزی معادلستان مواجه شویم. اگر خوش شانس باشیم، رانانه را پیشنهاد می‌دهند و اگر بدشانس، شاید آدم بَر هم جزو گزینه‌ها باشد (اگر بتوانید حدس بزنید که آوابَر به چه چیزی گفته می‌شود، باید به خلاقیت‌تان آفرین گفت).

بگذریم.

آنچه برای من جالب بود و دوست داشتم با شما هم در میان بگذارم، یکی از هزاران چالش مربوط به اخلاق تکنولوژی است:

یک مانع روانی جدی برای حمایت قانونی از خودران ها

دقیقاً در زمانی که آمریکای شمالی آماده می‌شد قوانینی را در حمایت از خودران ها تصویب کند، یک خودران راننده اش را به کشتن داد.

جاشوا براون (Joshua Brown) یک راننده چهل ساله که عاشق خودرو و عاشق سرعت هم بود، زمانی که ماشین او در حالت Auto-Pilot و با سرعت بالا در حال حرکت بود، تصادف کرد و کشته شد.

نام او به عنوان نخستین قربانی خودرانها در تاریخ ثبت خواهد شد.

یک کامیون 18 چرخ سفید رنگ از خیابان می‌گذشت و ماشین نتوانست تفاوت سفیدی کامیون و سفیدی آسمان را – که در آن ساعت کنتراست کمی با هم داشتند – تشخیص دهد و سفیدی کامیون را سفیدی خط افق در نظر گرفت و این مرگ دلخراش ایجاد شد.

اگر چه بعداً تحقیقات نشان داد که جاشوا براون بر خلاف توصیه های سازنده دست را از روی فرمان برداشته بوده و حتی روبرو را نگاه نمی‌کرده و ظاهراً مشغول تماشای فیلم بوده است اما به هر حال اصل ماجرا – که تکنولوژی جدید، نخستین قربانی خود را گرفته است – بر روی میز باقی است (تسلا به رانندگان توصیه می‌کند حتی در حالت Auto-Pilot چشم از روبرو بر ندارند و دست را برای اطمینان روی فرمان نگه دارند).

خودران ها – آمار منطقی در برابر عکس العمل احساسی

چنین سانحه ای در نخستین سالهای رواج گسترده تکنولوژی خودران می‌تواند – و در واقع توانسته است – روند توسعه این تکنولوژی را با چالش روبرو کند.

ایلان ماسک با آماری که منطق آن قابل درک به نظر می‌رسد اعلام کرده است که فراگیر شدن تکنولوژی خودران می‌تواند موجب کاهش سالانه 500 هزار مرگ در صنعت حمل و نقل شود.

اگر بخواهیم کمی تلخ‌تر و البته صادقانه‌تر بگوییم: برآورد می‌شود خالص دستاورد تکنولوژی جدید، کاهش 500 هزار مورد مرگ سالانه باشد. به عبارتی، تکنولوژی جدید هم، مرگ های خود را خواهد داشت. اما تعداد آن بسیار کمتر از گذشته خواهد بود.

وقتی فکر می‌کنیم که الان در اتوبان‌ها تعداد زیادی از رانندگان سر در موبایل خود دارند و رانندگی می‌کنند، احتمالاً احساس امنیت بهتری خواهیم داشت که پشت سر ما به جای یک خودرو یک خودران در حرکت باشد.

دیدن این رانندگان موبایل در دست برای من صحنه ای وحشتناک است. صحنه‌‌ای که هر وقت می‌بینم، تنم می‌لرزد که چرا (به تعبیر ایلان ماسک) یک آلت قتاله دو تنی در اختیار انسان قرار گرفته و یاد تعبیر زیبای فیلم ارباب جنگ می‌افتم: تنها فرق اسلحه‌ با خودرو در این است که خودرو ضامن ندارد. تازه! آنها که آن حرف‌ها را گفته‌اند، رانندگان ما را ندیده‌اند و به درستی نمی‌دانند از چه سخن می‌گویند!

اما یک مسئله‌ی احساسی هم هست: فرض کنید که خودروی پشتی با شما تصادف می‌کند. حداقل می‌توانید پیاده شوید و او را به خاطر بی دقتی سرزنش کنید و منتظر عذرخواهی او بمانید.

حالا فکر کنید که تصادف می‌کنید – و اگر زنده بمانید – هر دو پیاده می‌شوید و به ماشین‌هایتان نگاه می‌کنید. چون آنها مقصر این مسئله هستند و شما هیچ نقشی نداشته‌اید! بعضی‌ها از اینکه مقصری نبینند و نتوانند بر سرش داد بزنند، خوشحال نخواهند شد! (فرهنگ مقصر یابی که بسیار رایج است و برای بزرگترین مشکلات پیچیده هم دنبال یک فرد مقصر است تا خودش را روی آن تخلیه کند، فراموش نکنید).

خودران ها و اخلاق تکنولوژی

همه چیز به مسئله مقصریابی ختم نمی‌شود.

دقت داشته باشید که در تصادف‌های فعلی، راننده  هم نقش دارد و می‌توانیم – البته نه همیشه اما در بسیاری از موارد – سهمی از مرگ را هم بر عهده راننده بگذاریم و بدانیم.

500 هزار مرگ در سال کاهش می‌یابد. اما بسیاری از آنها که نمی‌میرند، کسانی بودند که قرار بود به خاطر سهل انگاری در رانندگی بمیرند و آن چند نفری که می‌میرند، کسانی هستند که به خاطر سهل انگاری در طراحی تکنولوژی و خطای ابزار و بدون تقصیر و کوتاهی می‌میرند.

این سوال را می‌توان به صورت همان سوال افسانه ای کلاسیک تعبیر کرد که: اگر بدانیم که با قربانی کردن پنج نفر بیگناه در یک شهر، میلیون ها نفر در آن شهر، از قحطی نجات می‌یابند. آیا این کار را انجام خواهیم داد؟

و البته باز هم سوال من، ترجمه‌ی دقیقی از آن شرایط نیست. چون آن میلیون‌ها نفر، شاید خود در قحطی نقشی نداشته باشند. اما بخش زیادی از کسانی که از مرگ در رانندگی نجات خواهند یافت، قرار بوده خود در قتل خود نقش داشته باشند.

من در فایل صوتی تصمیم گیری، سوال بهتری را که دقیقاً مشابه این وضعیت است مطرح کرده‌ام و حدود دویست نفر از دوستان هم نظرشان را در این زمینه نوشته اند.

همان جا هم می‌توان اختلاف دیدگاه‌ها را مشاهده کرد.

اینها سوالات ساده ای نیست و متاسفانه بسیاری از کسانی که امروز در حوزه اخلاق فکر می‌کنند و دغدغه‌ی آن را دارند، یا صورت این مسئله ها را هم درک نمی‌کنند و یا اگر درک کنند، آنها را اولویت نمی‌دانند و یا عموماً حاشیه های سیستمی و استراتژیک و دینامیک این تحولات را نمی‌شناسند تا بتوانند تحلیل درستی از آن‌ها داشته باشند.

و البته چالش دیگر آن است که آنها که وقت می‌گذارند و وقت دارند و به اخلاق (به شکل کلاسیک آن)‌ فکر می‌کنند تقریباً هیچ نوع همپوشانی با آنها که وقت می‌گذارند و وقت دارند و استعداد و توانمندی دارند و برای توسعه تکنولوژی اقدام می‌کنند، ندارند.

اما به هر حال، برای کسی که دغدغه‌ی اخلاق دارد، اینکه متولیان رسمی اخلاق تا چه حد چالش‌های اخلاقی را درک می‌کنند یا نمی‌کنند چندان مهم نیست.

مهم این است که اخلاق تکنولوژی یک مسئله‌ی مهم است و هر کس که دغدغه‌ی اخلاق را دارد، لااقل باید در خلوت خود پاسخ‌هایی برای این سوالات بیابد.

عمیقاً بر این باور هستم که همانطور که اخلاق و اخلاق آگاهی در شکل سنتی آن، رشد و افول جوامع و سرنوشت آنها را تعیین می‌کرد، درک اخلاق تکنولوژی و شکل گیری نوعی شناخت عمیق از آن، می‌تواند رشد یا انقراض سالهای آتی قبیله های انسانی را هم رقم بزند.

پی نوشت: در ژاپن هم مدتی پیش، استفاده از خودروهای بدون آیینه بغل و پشت، مجاز اعلام شد و خودروسازان برای آزمایش خودروهای خود، به آنجا دل بسته‌اند. خودروهایی که آیینه بغل یا پشت ندارند، از دوربین برای مشاهده‌ی اطراف و پشت خود استفاده می‌کنند. این کار توانایی دید آنها را در شب و در شرایط نامساعد جوی بالا می‌برد، اما ممکن است قطع شدن یک سیم یا خطای یک سیستم، موجب بروز سوانح جدی شود.

دوباره، همان سوال مطرح است: عده‌ی زیادی قربانی سهل انگاری خود شوند یا عده‌ی قلیلی قربانی سهل انگاری اجتناب ناپذیر مهندسی؟