چند ماه اخیر، اخبار خودروهای بدون راننده یا Autonomous Cars که من ترجیح می‌دهم آنها را خودران بنامم، زیاد شده است.
نکته ای در مورد معادل فارسی Autonomous Car (فعلاً: خودرو بدون راننده)
بر روی استفاده از خودران تاکید دارم. چون اگر حواسمان نباشد، ممکن است طی چند سال آینده که خودرانها وارد کشور شدند، با معادل‌های شگفت انگیزی معادلستان مواجه شویم. اگر خوش شانس باشیم، رانانه را پیشنهاد می‌دهند و اگر بدشانس، شاید آدم بَر هم جزو گزینه‌ها باشد (اگر بتوانید حدس بزنید که آوابَر به چه چیزی گفته می‌شود، باید به خلاقیت‌تان آفرین گفت).
بگذریم.
آنچه برای من جالب بود و دوست داشتم با شما هم در میان بگذارم، یکی از هزاران چالش مربوط به اخلاق تکنولوژی است:
یک مانع روانی جدی برای حمایت قانونی از خودران ها
دقیقاً در زمانی که آمریکای شمالی آماده می‌شد قوانینی را در حمایت از خودران ها تصویب کند، یک خودران راننده اش را به کشتن داد.
جاشوا براون (Joshua Brown) یک راننده چهل ساله که عاشق خودرو و عاشق سرعت هم بود، زمانی که ماشین او در حالت Auto-Pilot و با سرعت بالا در حال حرکت بود، تصادف کرد و کشته شد.
نام او به عنوان نخستین قربانی خودرانها در تاریخ ثبت خواهد شد.
یک کامیون ۱۸ چرخ سفید رنگ از خیابان می‌گذشت و ماشین نتوانست تفاوت سفیدی کامیون و سفیدی آسمان را – که در آن ساعت کنتراست کمی با هم داشتند – تشخیص دهد و سفیدی کامیون را سفیدی خط افق در نظر گرفت و این مرگ دلخراش ایجاد شد.
اگر چه بعداً تحقیقات نشان داد که جاشوا براون بر خلاف توصیه های سازنده دست را از روی فرمان برداشته بوده و حتی روبرو را نگاه نمی‌کرده و ظاهراً مشغول تماشای فیلم بوده است اما به هر حال اصل ماجرا – که تکنولوژی جدید، نخستین قربانی خود را گرفته است – بر روی میز باقی است (تسلا به رانندگان توصیه میکند حتی در حالت Auto-Pilot چشم از روبرو بر ندارند و دست را برای اطمینان روی فرمان نگه دارند).
خودران ها – آمار منطقی در برابر عکس العمل احساسی
چنین سانحه ای در نخستین سالهای رواج گسترده تکنولوژی خودران میتواند – و در واقع توانسته است – روند توسعه این تکنولوژی را با چالش روبرو کند.
ایلان ماسک با آماری که منطق آن قابل درک به نظر میرسد اعلام کرده است که فراگیر شدن تکنولوژی خودران میتواند موجب کاهش سالانه ۵۰۰ هزار مرگ در صنعت حمل و نقل شود.
اگر بخواهیم کمی تلخ‌تر و البته صادقانه‌تر بگوییم: برآورد می‌شود خالص دستاورد تکنولوژی جدید، کاهش ۵۰۰ هزار مورد مرگ سالانه باشد. به عبارتی، تکنولوژی جدید هم، مرگ های خود را خواهد داشت. اما تعداد آن بسیار کمتر از گذشته خواهد بود.
وقتی فکر میکنیم که الان در اتوبان‌ها تعداد زیادی از رانندگان سر در موبایل خود دارند و رانندگی میکنند، احتمالاً احساس امنیت بهتری خواهیم داشت که پشت سر ما به جای یک خودرو یک خودران در حرکت باشد.
دیدن این رانندگان موبایل در دست برای من صحنه ای وحشتناک است. صحنه‌‌ای که هر وقت میبینم، تنم می‌لرزد که چرا (به تعبیر ایلان ماسک) یک آلت قتاله دو تنی در اختیار انسان قرار گرفته و یاد تعبیر زیبای فیلم ارباب جنگ می‌افتم: تنها فرق اسلحه با خودرو در این است که خودرو ضامن ندارد. تازه! آنها که آن حرف‌ها را گفته‌اند، رانندگان ما را ندیده‌اند و به درستی نمی‌دانند از چه سخن می‌گویند!
اما یک مسئله‌ی احساسی هم هست: فرض کنید که خودروی پشتی با شما تصادف میکند. حداقل می‌توانید پیاده شوید و او را به خاطر بی دقتی سرزنش کنید و منتظر عذرخواهی او بمانید.
حالا فکر کنید که تصادف می‌کنید – و اگر زنده بمانید – هر دو پیاده می‌شوید و به ماشین‌هایتان نگاه می‌کنید. چون آنها مقصر این مسئله هستند و شما هیچ نقشی نداشته‌اید! بعضی‌ها از اینکه مقصری نبینند و نتوانند بر سرش داد بزنند، خوشحال نخواهند شد! (فرهنگ مقصر یابی که بسیار رایج است و برای بزرگترین مشکلات پیچیده هم دنبال یک فرد مقصر است تا خودش را روی آن تخلیه کند، فراموش نکنید).
خودران ها و اخلاق تکنولوژی
همه چیز به مسئله مقصریابی ختم نمی‌شود.
دقت داشته باشید که در تصادف‌های فعلی، راننده هم نقش دارد و می‌توانیم – البته نه همیشه اما در بسیاری از موارد – سهمی از مرگ را هم بر عهده راننده بگذاریم و بدانیم.
۵۰۰ هزار مرگ در سال کاهش می‌یابد. اما بسیاری از آنها که نمی‌میرند، کسانی بودند که قرار بود به خاطر سهل انگاری در رانندگی بمیرند و آن چند نفری که می‌میرند، کسانی هستند که به خاطر سهل انگاری در طراحی تکنولوژی و خطای ابزار و بدون تقصیر و کوتاهی می‌میرند.
این سوال را می‌توان به صورت همان سوال افسانه ای کلاسیک تعبیر کرد که: اگر بدانیم که با قربانی کردن پنج نفر بیگناه در یک شهر، میلیون ها نفر در آن شهر، از قحطی نجات می‌یابند. آیا این کار را انجام خواهیم داد؟
و البته باز هم سوال من، ترجمه‌ی دقیقی از آن شرایط نیست. چون آن میلیون‌ها نفر، شاید خود در قحطی نقشی نداشته باشند. اما بخش زیادی از کسانی که از مرگ در رانندگی نجات خواهند یافت، قرار بوده خود در قتل خود نقش داشته باشند.
من در فایل صوتی تصمیم گیری، سوال بهتری را که دقیقاً مشابه این وضعیت است مطرح کرده‌ام و حدود دویست نفر از دوستان هم نظرشان را در این زمینه نوشته اند.
همان جا هم می‌توان اختلاف دیدگاه‌ها را مشاهده کرد.
اینها سوالات ساده ای نیست و متاسفانه بسیاری از کسانی که امروز در حوزه اخلاق فکر میکنند و دغدغه‌ی آن را دارند، یا صورت این مسئله ها را هم درک نمی‌کنند و یا اگر درک کنند، آنها را اولویت نمی‌دانند و یا عموماً حاشیه های سیستمی و استراتژیک و دینامیک این تحولات را نمی‌شناسند تا بتوانند تحلیل درستی از آنها داشته باشند.
و البته چالش دیگر آن است که آنها که وقت می‌گذارند و وقت دارند و به اخلاق (به شکل کلاسیک آن) فکر میکنند تقریباً هیچ نوع همپوشانی با آنها که وقت می‌گذارند و وقت دارند و استعداد و توانمندی دارند و برای توسعه تکنولوژی اقدام میکنند، ندارند.
اما به هر حال، برای کسی که دغدغه‌ی اخلاق دارد، اینکه متولیان رسمی اخلاق تا چه حد چالش‌های اخلاقی را درک میکنند یا نمی‌کنند چندان مهم نیست.
مهم این است که اخلاق تکنولوژی یک مسئله‌ی مهم است و هر کس که دغدغه‌ی اخلاق را دارد، لااقل باید در خلوت خود پاسخ‌هایی برای این سوالات بیابد.
عمیقاً بر این باور هستم که همانطور که اخلاق و اخلاق آگاهی در شکل سنتی آن، رشد و افول جوامع و سرنوشت آنها را تعیین می‌کرد، درک اخلاق تکنولوژی و شکل گیری نوعی شناخت عمیق از آن، میتواند رشد یا انقراض سالهای آتی قبیله های انسانی را هم رقم بزند.
پی نوشت: در ژاپن هم مدتی پیش، استفاده از خودروهای بدون آیینه بغل و پشت، مجاز اعلام شد و خودروسازان برای آزمایش خودروهای خود، به آنجا دل بسته‌اند. خودروهایی که آیینه بغل یا پشت ندارند، از دوربین برای مشاهده‌ی اطراف و پشت خود استفاده میکنند. این کار توانایی دید آنها را در شب و در شرایط نامساعد جوی بالا می‌برد، اما ممکن است قطع شدن یک سیم یا خطای یک سیستم، موجب بروز سوانح جدی شود.
دوباره، همان سوال مطرح است: عده‌ی زیادی قربانی سهل انگاری خود شوند یا عده‌ی قلیلی قربانی سهل انگاری اجتناب ناپذیر مهندسی؟
احتمالا در آینده ای نه چندان دور ما هم شاهد پراید خودران در خیابانها هستیم.
خود من حتما تو فروش ویژه عید قربانش یکی میخرم، ولش می کنم توی شهر برام مسافرکشی کنه.
[…] که قبلاً محمدرضا شعبانعلی در نوشته‌های خود در مورد مسائل جدیدی که با ورود خودران ها به خیابان با […]
[…] بزنید، از استیو جابز، محمدرضا شعبانعلی، وحید شیرازی، خودرانها، هوش مصنوعی، دنیای چند سال بعد… اگر روزی قرار […]
سهل انگاری رانندگی در کشور ما کاملا مشهود میباشد!
در برخی از ساعات شبانه روز: صبح ها اغلب رانندگانی را میبینم که با تلفن همراه خود صحبت میکنند یا مشغول خوردن صبحانه به صورت ساندویچی و البته با عجله هستند.
ظهرها یا بیشتر عصرها رانندگان مشغول تعاملات اجتماعی با سرنشین های خود هستند و به نوشتن پیام و یا خواندن آنها در شبکه های اجتماعی مبادرت می ورزند.
شبها دیرهنگام دیوانگانی در سطح شهر بی توجه به حقوق دیگران سرمست از تکیه بر اریکه این ارابه آهنی بی مهابا تنها به پدال گاز فشار می آورند.
اما با همه این تفاسیر سپردن کار تنها به خودران هم کمی وهم انگیز به نظر میرسد به نظر من با پیشرفت تکنولوژی بهتر است کار را به هردو واگذار کرد یعنی راننده و سیستم هوشمند!
بحث اتوپایلوت تسلا و داستان های خودران چند وقتیه که خیلی داغ شده و این سوالی هم که مطرح کردید واقعا خیلی سوال مهمی هست و مرا به یاد یک گفت و گویی که با یکی از دوستان کرده بودم انداخت. این دوست ما از هواپیما میترسید و تازه از پرواز برگشته بود و از استرس و ترسش در حین پرواز به من گفت. من هم از در دوستی و نصیحت گفتم: بر مبنای مقایسه اماری بین کیلومتر پیمایشی در سفر های زمینی و هوایی،احتمال به خطر افتادن جان شما در سفر با هواپیما صد ها و شاید هزاران برابر کم تر از سفر زمینی باشد.
جواب این دوستمان هم خیلی جالب بود.گفت:من این امار رو میدونم ولی در سفر زمینی،من همه چیز رو میبینم و باهاش رو به رو میشم(خطرات،جاده،وضعیت هوایی و ….)در حقیقت بر وقایع کنترل دارم ولی در هواپیما این گونه نیست میری تو و تمام بقیش رو در جریان نیستی نمیدونی چه اتفاقاتی دارد میفتد و کنترلی بر روی آن نداری.
حس کنترل نداشتن بر وقایع همان طور که قبلا گفته بودید تنش زا است.این داستان در خودرو های خودران هم صدق میکند(البته به نظرم همون خودرو بگیم بهتره چون واژه خودرو متشکل از خود و رو است،یعنی خودش میره اضافه کردن خودران دیگه اضافست) وقتی ما به عنوان سرنشین این خودرو ها حس کنیم بر این ساز و کار مسلط نیستیم و کنترلش نمیتونیم بکنیمش و اطلاعاتی هم در مورد فرایند های کنترلی و پردازشی اش نداریم پس بهتره خودمون کنترلش کنیم.(در حقیقت ما تصور میکنیم ما توانایی کنترل بر خودمان را که داریم مثال بارزش راننده های مستی که در حالی که دارند تلفن صحبت میکنند وقتی ازشون میپرسی حواست به جلو هست؟میگن: بله کامل)
به نظرم نیازی به پاسخ دادن به این سوال نیست؛ به هیچ وجه نمیشه جلوی اومدن این تکنولوژی ها رو گرفت. اگر هم بشه گرفت تا موقعی میشه گرفت که این تکنولوژی در دسترس شرکت های کوچک و غیر قانونی نیافتاده. همه ما میدونیم که بمب هسته ای برای همه ما ضرر داره و نسبت سود به ضررش خیلی بیشتر از تلفات رانندگی خودران هاست، ولی آیا کشور ها تولید بمب هسته ای رو متوقف کرده اند؟ تکنولوژی میوه درخت علم ما انسان هاست.ما عادت نداریم میوه درختی که سالها براش زحمت کشیدیم رو بخاطر اینچنین مسائل کوچکی! دور بریزیم.
اگر هدف این باشه که در نهایت تلفات جاده ای کاهش پیدا کنه، به نظر من می تونیم به جای استفاده از خودروهای autonomous، از خودروهای semi-autonomous استفاده کنیم، یعنی وظیفه اصلی هدایت خودرو در اختیار انسان باشه و فقط در شرایط خاص مثلا خواب آلودگی راننده یا انحراف از جاده یا نزدیک شدن بیش از حد به ماشین جلویی، سیستمِ راننده اتوماتیک فعال بشه. اینجوری دیگه شاید مجبور نباشیم به این سوال پاسخ بدیم!
داود جان یا کاری رو برای من انجام نده و بزار خودم انجامش بدم یا همشو انجام بده و به من فرصت انجام یه کار دیگه رو بده. منو تو این موقعیت قرار نده!
این حرف ها من رو به یاد زمانی انداخت که همه درگیر گوشی ها تلفن همراه بودیم ، منظورم لحظه ی ورودشون نیست زمانی رو می گم که مجهز به آپشن خارق العاده ی بلوتوث شدند ! یادمه هر اتفاقی که می افتاد تنها مقصر ” عدم فرهنگ سازی ” برای ورود این پدیده ی جدید به کشورمون شناخته می شد .
این بار اگر قرار باشه برای ورود خودران به کشور فرهنگ سازی کنیم ، باید چکار کنیم استاد ؟ الان باید چکار کنیم ؟
فکر کنم “آوابر” معادل گوشی تلفن یا آیفون باشه چون اینا صدا رو میبرن .
الآن سرچ کردم ، یک جدول کوتاهی از معادل سازی پیدا کردم . میتونین حدس بزنین “نور تاب” معادل چیه؟
شراره به نظرم “آوابر” میتونه معادل میکروفون هم باشه.
نورتاب معادل رفلکتور نیست؟!
نور تاب معادل “آباژور” هست .
والا شب تاب براش بهتره! نورتاب رو هم برا لامپ استفاده کنن!
بحث خیلی پیچیده ایه . به نظرم در شرایط مثال قطار شما و یا شرایط مشابه که پیچیدگی های بالایی داره و نیاز به یک تصمیم گیری اخلاقی است خودران نمیتواند دقیق عمل کند. مثلا آیا خودران حاضر است برای نجات جان یک نفر از چراغ قرمز عبور کند؟ یا میتواند ریسک کند؟ ماشینهای بدون سرنشین یک روال منطقی رو در پیش میگیرند در حالیکه ما میدونیم که رانندگی حتی در بهترین کشورها و با بهترین قوانین هم چالش های خودش رو داره و در لحظاتی امکان داره اتفاق های غیر قابل پیش بینی بیفته . فکر کنم در شرایطی که بحث مرگ و زندگی پیش میاد انسان باید این اختیار در دست خود انسان باقی بماند نه خودران. یعنی به شخصه ترجیح میدم با اشتباهات خودم یا قوت و ضعف های خودم رانندگی کنم تا اینکه بر اثر یک اشتباه ۱ در میلیون خودران کشته شوم یعنی تمایلی ندارم این اختیارات رو به ماشین بدم. هر چند باید این رو هم بپذیریم همانطور که الان برای سیستمهای مختلف امنیت کاملی وجود نداره و انوا و اقسام سایت ها و سیستم ها در معرض هک هستند فردا برای خودران ها هم همینطور میشه البته مورد دوم پای جون انسان میاد وسط و دیگه فقط جنبه مالی و شخصی نیست.
نمی دونم انسان مگه چه کار مهمی داره که انقدر میخوان کاراش رو کمتر کنن! انگار دارن مدام ابزارها و تکنولوژی هایی میسازن که قدرت تمرکز و فکر کردن انسان رو کم کنن و ازش بگیرن. به نظرم برای ما که بیشترین استفاده از تمرکزکمون رو در پشت فرمون داریم به خاطر چاله های خیابان و رانندگانی که یک دفعه از فرعی وارد اصلی میشن، و … این تکنولوژی مضره / بعضی وقتها فکر می کنم که این فیلم های تخیلی که از ۱۰ -۱۵ سال پیش دیدم در مورد شورش رباتها و ارباب شدن رباتها بر انسانها، دور از ذهن نیست.
اما این مطلب، باز ذهن آنالوژی یاب من رو برد یه جای دیگه! البته همیشه میبره سمت دغدغه های خودم.
جایی که ۱۰۰۰ نفر نشستن و یک “استاد موفقیت و زندگی و ثروت و برنامه ریزی و …” به قصد بهتر کردن دنیا و مردم (و نه جیب خودش!) مشغول سخنرانی است و حرفهاش جوریه که شاید ۱ نفر رو تکون و تغییر مثبت بده. دلش هم به همین خوشه که من اگر باعث تغییر مثبت ۱ نفر بشم، برام کافیه.
اما به نظر من ممکنه خیلی از اون ۹۹۹ نفر از حرفهاش، برداشت اشتباه بکنن (مثلا به جای تغییر، سرخوش بشن و اگر هم قرار بوده کاری کنه، به خاظر شنیدن: تو قدرتمندی، تو توانمندی، از بین ۷ میلیارد آدم تو انتخاب شدی که اینجا باشی و … ) و تغییرشون مثبت نباشه و هر چقدر قراره تغییر مثبت اون یک نفر، دنیا رو بهتر کنه، میانگین تغییرات اون ۹۹۹ نفر، دنیا رو بدتر از چیزی کنه که بوده!
برداشت من هم از خودران همینه الان. به برآیند سود و ضررش فکر میکنم. البته نه برای تولید کننده اش. برای استفاده کنندگانش.