توسعه سبقت: یک شبیه سازی تجربی و تحلیل روانشناختی در زمینه تعامل انسان و رومیزی

دانیل اولریش 1 ، آندریاس بوتز 1 و سارا دیفنباخ 2 *

• 1 گروه علوم کامپیوتر ، LMU مونیخ ، مونیخ ، آلمان
• 2 گروه روانشناسی ، LMU مونیخ ، مونیخ ، آلمان < SPAN> توسعه سبقت: یک شبیه سازی تجربی و تحلیل روانشناختی در زمینه تعامل انسان و رومیزی

دانیل اولریش 1 ، آندریاس بوتز 1 و سارا دیفنباخ 2 *

1 گروه علوم کامپیوتر ، LMU مونیخ ، مونیخ ، آلمان

2 گروه روانشناسی ، LMU مونیخ ، مونیخ ، آلمانی توسعه سبقت: یک شبیه سازی تجربی و تجزیه و تحلیل روانشناختی در زمینه تعامل انسان و رومیزی

دانیل اولریش 1 ، آندریاس بوتز 1 و سارا دیفنباخ 2 *

1 گروه علوم کامپیوتر ، LMU مونیخ ، مونیخ ، آلمان

2 گروه روانشناسی ، LMU مونیخ ، مونیخ ، آلمان

با تحولات چشمگیر در تعامل انسان و روتوت ممکن است به نظر برسد که فناوری می تواند هر کاری انجام دهد. به خصوص در حوزه روبات های اجتماعی که نشان می دهد به دلیل شکل انسان شناسی آنها بسیار بیشتر از ماشین های برنامه ریزی شده است ، افراد ممکن است از قابلیت های واقعی ربات و قابلیت اطمینان آن سبقت بگیرند. این یک مشکل جدی است ، به خصوص هنگامی که بهزیستی شخصی ممکن است در معرض خطر باشد. از این رو ، بینش در مورد توسعه و تأثیرگذاری بر فاکتورهای غلبه بر روبات ها ممکن است مبنای مهمی برای اقدامات متقابل و تصمیمات طراحی معقول ایجاد کند. یک مطالعه تجربی [n = 110] با استفاده از مثال یک ربات تغذیه حیوان خانگی ، توسعه سبقت را مورد بررسی قرار داد. یک طرح آزمایشی 2 × 2 و اندازه گیری های مکرر با تأثیر تجربه خود ، تظاهرات مهارت و شهرت از طریق گزارش های تجربه دیگران در تضاد است. این آزمایش در یک محیط ویدیویی محقق شد که شرکت کنندگان مجبور بودند تصور کنند که در یک سفر چهار هفته سافاری می روند و گربه محبوب خود را در خانه ترک می کنند و از یک ربات تغذیه حیوان خانگی استفاده می کنند. هر روز ، شرکت کنندگان مجبور بودند انتخاب کنند: بدون تماس با گزینه ها (خطر و پاداش) به یک روز به سافاری بروید یا یک سفر اتومبیل خسته کننده به یک دهکده دیگر انجام دهید تا بررسی کند که آیا این تغذیه موفقیت آمیز بوده و در صورت عدم وجود یک تماس اضطراری را فعال می کند (ایمن و ایمن است (ایمن و ایمن)بدون پاداش). به موازات موارد سبقت در حوزه های دیگر (به عنوان مثال ، اتوپیلوت) ، ربات تغذیه بیشتر اوقات تا هفته چهارم بی عیب و نقص انجام می داد. این کار در سه روز متوالی به صورت گسل انجام شد و در نتیجه مرگ گربه در صورتی که شرکت کنندگان تصمیم به رفتن به روز سافاری در این روزها داشتند. همانطور که انتظار می رفت ، با تجربه مثبت مکرر در مورد قابلیت اطمینان ربات در تغذیه گربه ، سطح اعتماد به سرعت افزایش یافته و تعداد تماس های کنترل کاهش می یابد. در مقایسه با تجربه شخصی خود ، تظاهرات مهارت و شهرت تا حد زیادی مورد غفلت قرار گرفت و یا فقط اثر موقتی داشت. ما این یافته ها را در یک الگوی مفهومی از اعتماد (بیش از) به مرور زمان ادغام می کنیم و اینها را به مفاهیم روانشناختی مرتبط مانند پوزیتیویسم ، پاداش های فوری ، تعمیم نامناسب ، تفکر آرزو ، نظریه ناهماهنگی و مفاهیم اجتماعی از تعامل انسان و انسانی وصل می کنیم. محدودیت های مطالعه حاضر و همچنین پیامدهای مربوط به طراحی ربات و تحقیقات آینده مورد بحث قرار گرفته است.

معرفی

امروز ، به نظر می رسد که فناوری می تواند هر کاری انجام دهد: از جراحی های پزشکی گرفته تا تمیز کردن مشاغل در خانوارهای ما ، امروزه بسیاری از کارها توسط روبات ها انجام می شود. مردم با چنین تحولات چشمگیر روبرو هستند ، مردم تمایل دارند از این فناوری که هنوز محدودیت دارد ، غافل شوند. به خصوص در حوزه روبات های اجتماعی ، که از طریق شکل انسان شناسی آنها ممکن است بسیار بیشتر از ماشینهای برنامه ریزی شده باشد ، ممکن است افراد از قابلیت ها و قابلیت اطمینان واقعی ربات سبقت بگیرند - و حتی تظاهرات صریح از محدودیت های ربات ، پیشگیری مؤثر نیست. در یک مطالعه جدید (Robinette و همکاران ، 2017) ، یک سناریوی تخلیه اضطراری با گسترش دود و فعال کردن زنگ آتش شبیه سازی شد و قرار بود یک روبات تخلیه اضطراری باعث شود مردم به نزدیکترین خروج برسند. به طرز غم انگیزی ، شرکت کنندگان حتی وقتی در تظاهرات قبلی معیوب عمل کردند و حتی وقتی متوجه شدند که این روبات در جهت اشتباه پیش می رود ، ربات را دنبال کردند. Overtrust یک مشکل جدی را ایجاد می کند ، به خصوص وقتی صحبت از حوزه های حساس است که ممکن است زندگی یا بهزیستی شخصی در معرض خطر باشد. از طرف دیگر ، علاوه بر سبقت ، بی اعتمادی می تواند از تعامل مؤثر انسان و روتوت (HRI) نیز جلوگیری کند. با بی اعتمادی ، اپراتورهای انسانی استفاده نمی کنند بلکه سیستم هایی را که می توانند به آنها کمک کنند ، خاموش یا حتی آگاهانه غیرفعال می کنند. هر دو نوع اعتماد به نفس اشتباه نشان دهنده مشکلات شدید ، همچنین برای سایر برنامه های کاربردی روبات ها و سیستم های هوشمند مانند سیستم های تجارت خودکار سهام (Folger ، 2019) ، روبات های جراحی (کلینیک ، 2019) یا به طور کلی همکاران روباتیک هستند.

نمونه بارز دیگر اعتماد به نفس اشتباه ، زمینه خودرو و به ویژه رانندگی خودمختار است ، همانطور که در رابطه با سری اخیر تصادفات با اتومبیل های تسلا بحث شده است. همانطور که گزارش شده است ، چندین راننده فرض می کردند که به جای اتوماسیون جزئی ، یک ماشین خودران دارند. آنها اعتماد داشتند که این سیستم می تواند بیش از آنچه که در واقع قادر به انجام آن بود ، انجام دهد و دست خود را در شرایط دیگر نسبت به زمینه کاربرد محدود و در نظر گرفته شده خود از چرخ خارج کند (گیسن ، 2016). به طور کلی ، تمایل به اعتماد به فناوری فراتر از توانایی های واقعی آن گسترده به نظر می رسد ، و غلبه بر یک روبات تخلیه اضطراری یا رانندگی با کمک فقط دو مورد از یک پدیده عمومی تر است.

هرچه دامنه نوآورانه تر باشد ، ارزیابی توانایی ها و محدودیت های یک فناوری برای افراد دشوارتر خواهد بود. این امر باعث می شود اکتشاف بیش از حد و اقدامات متقابل احتمالی برای HRI و به ویژه برای تعامل با روبات های اجتماعی بسیار مرتبط باشد ، که برای برانگیختن تأثیر ، احساسات و احتمالاً اعتماد و پذیرش طراحی شده است. با این حال ، مکانیسم های مربوطه ممکن است مخصوص دامنه روبات ها نباشد اما مربوط به اثرات روانشناختی عمومی و تعصبات شناختی باشد. دانستن اینکه چه چیزی باعث ایجاد سبقت می شود ، به نوبه خود ، ممکن است به رسیدگی به این مسئله در طراحی و کاربرد روبات ها کمک کند.

سوالات تحقیق

تحقیقات ما با هدف درک عمیق تر از توسعه سبقت در زمینه HRI و فراتر از آن انجام شده است. به طور خاص ، ما به مکانیسم های روانشناختی و تعصباتی که ممکن است باعث رشد سبقت می شود علاقه مندیم. همانطور که از بسیاری از موقعیت های زندگی روزمره شناخته شده است ، یک مشکل رایج این است که افراد تجربه مثبت قبلی خود را به عنوان اثبات اعتقاد و اعتماد به هر آنچه به نظر می رسد مناسب می دانند (به عنوان مثال ، خداحافظ ، 2012). به عنوان مثال ، هنگام بحث در مورد اینکه آیا استفاده از آب شیر بدون آب برای تهیه تغذیه کودک بی خطر است ، مادری که می گوید "من چهار فرزند بزرگ کرده ام و همه آنها زنده مانده اند" ممکن است این را به عنوان اثبات اعتماد به آب شیر ببرد ، در حالی که هنوز نامشخص استاو درست است یا فقط خوش شانس است. یک اثر مشابه می تواند در حوزه اعتماد به فناوری نقش داشته باشد. افراد به جای جستجوی منابع خارجی بالقوه مفید و سودآوری از آمار و تجربیات دیگران ، مردم غالباً بر اساس تجربه قبلی شخصی خود بر آنچه فرض می کنند متمرکز می شوند. تا زمانی که تجربه آنها در برابر آن نباشد ، ممکن است مردم به راحتی به یک سیستم اعتماد کنند بدون اینکه متوجه شوند تجربه مثبت مکرر به معنای قابلیت اطمینان واقعی نیست. فقط به این دلیل که در هنگام گرفتن دست از چرخ ، هیچ حادثه ای اتفاق نیفتاده است ، این بدان معنا نیست که ماشین در واقع قادر به مدیریت کامل کار رانندگی در همه شرایط است - اما مردم به گونه ای رفتار می کنند که گویی ممکن است. چنین استفاده نامناسب از سیستم های رانندگی کمک شده ممکن است به عنوان سبقت تعبیر شود.

به موازات چنین مواردی و به عنوان یک تعریف کار ، ما به عنوان یک پدیده به عنوان یک پدیده اشاره می کنیم وقتی شخصی به ظاهر اعتماد دارد - یا حداقل از آن استفاده می کند - سیستمی فراتر از قابلیت های واقعی خود (به بخش های بعدی مراجعه کنید تا بحث مفصلی در مورد مفهوم سبقت در این امر داشته باشدادبیات تحقیق). به عبارت دیگر ، ما رفتار شخص را ابراز اعتماد می دانیم ، اگرچه نمی دانیم که این میزان در رتبه های صریح شخص از اعتماد به نفس یک سیستم منعکس می شود. این به موازات بسیاری از تعامل های روزمره ما است ، جایی که ما به روشی خاص رفتار می کنیم (به عنوان مثال ، خرید چیزی برای غذا خوردن در نانوایی در گوشه و کنار ، مصرف یک دارو و گرفتن هواپیما) و از این طریق به شخص یا یک اعتماد ابراز می کنیمسیستم ، بدون اینکه صریحاً این واقعیت را بیان یا تأمل کند. با این حال ، همچنین عوامل اضافی علاوه بر اعتماد ممکن است بر چنین رفتارهای قابل مشاهده تأثیر بگذارد و ما احتمالاً می توانیم بحث دانشگاهی بی پایان در مورد اینکه آیا یک رفتار خاص در واقع نشانه اعتماد است یا فقط رفتار "بی ذهن" داشته باشیم. به عنوان مثال ، همچنین عادت به علائم هشدار دهنده یا محرکهای حسی ممکن است نقشی داشته باشد ، مانند "من به چراغ هشدار قرمز در ماشین خود عادت کرده ام" ، بدون اینکه واقعاً بتوانم اعتماد کنم که آیا هنوز هم می توانم اعتماد داشته باشم که ماشین به همان اندازه بی عیب و نقص عمل خواهد کردقبل از. بنابراین ، تحقیقات ما تصمیم شخص را برای استفاده از یک سیستم به عنوان پروکسی برای اعتماد (بیش از) در نظر می گیرد. با این حال ، این تنها یک عکس فوری را در یک تعامل پیچیده تر از متغیرهای تأثیرگذار اضافی بین مفهوم روانشناختی اعتماد از یک سو و استفاده از سیستم از طرف دیگر نشان می دهد.

بر اساس این ملاحظات ، مراکز تحقیقاتی ما در حدود دو سؤال اصلی مربوط به توسعه سبقت است: اول ، ما الگوی فرضی از سبقت و تأثیر اصلی مورد انتظار تجربه قبلی را کشف می کنیم. دوم ، ما در مورد عوامل مؤثر در تأثیرگذاری و تعصبات اضافی مانند تظاهرات مهارت ، شهرت و گزارش های تجربه دیگران بحث می کنیم.

ما با ارائه یک مرور کلی از کارهای مرتبط در این زمینه شروع خواهیم کرد ، سپس یک الگوی کلی از سبقت را ارائه می دهیم ، در مورد یک مطالعه موردی در مورد توسعه سبقت به سمت یک روبات بحث خواهیم کرد و یافته های خود را به مفاهیم روانشناختی مرتبط مانند پوزیتیویسم ، تعمیم نامناسب ، وصل می کنیمو نظریه ناهماهنگی. در این دنباله ، مطالعه موردی ما به عنوان انتزاع مکانیسم فرض شده عمومی در پشت سبقت عمل می کند و امکان اکتشاف منظم از عوامل مختلف تأثیرگذار ممکن را در مقابل دارد. به منظور به حداقل رساندن عوامل مغرضانه احتمالی مانند تجربه قبلی شخصی با سیستم تحت اکتشاف ، ما عمداً در مورد یک نمونه نسبتاً غیرمعمول از HRI ، یعنی یک ربات تغذیه حیوان خانگی تصمیم گرفتیم. در عین حال ، مثال اعتماد به ربات تغذیه حیوان خانگی به ما امکان ایجاد سناریویی از ارتباط شخصی (فرضی) بالا را می دهد ، یعنی مراقبت یا خطر آسیب رساندن به حیوان خانگی محبوب شخص. با این حال ، علاقه واقعی ما درک مکانیسم های کلی کمک به سبقت گرفتن ، که از اهمیت بالایی با حوزه های مختلف کاربردی روبات ها و سیستم های هوشمند مانند محیط کار روزانه ما برخوردار است.

کار مرتبط

در این بخش به طور خلاصه بررسیهای تحقیقاتی و ادبیات اخیر (به عنوان مثال ، Bagheri و Jamieson ، 2004) در مورد اعتماد به روبات ها و سیستم های هوشمند و همچنین سبقت و عوامل تأثیرگذار آن خلاصه شده است.

تعاریف و سطوح مختلف اعتماد

مروری بر تعاریف اعتماد به طور کلی (به عنوان مثال ، روتر ، 1967 ؛ باربر ، 1983 ؛ Rempel و همکاران ، 1985 ؛ Luhma ، 2018) چند بعدی بودن این مفهوم را برجسته می کند ، هرکدام بر جنبه های مختلف استفاده روزمره مردم از اعتماد تمرکز دارند. به عنوان مثال ، لومان (2018) بر نقش اعتماد به عنوان روشی برای کاهش پیچیدگی اجتماعی تأکید می کند ، و استدلال می کند که بدون اعتماد ، یک فرد از تعداد لازم تصمیمات و کنترل غرق می شود. جامعه شناس باربر (1983) اعتماد را به عنوان نگرش ذهنی که یک عامل در مورد محیط اجتماعی خود حفظ می کند ، تعریف کرد. از نظر وی ، اعتماد ناشی از تجربیات فردی انباشته در یک سیستم اجتماعی است. رویکردهای دیگر بر جنبه آسیب پذیری تأکید دارد (مورمن و همکاران ، 1993 ؛ جان ، 1996 ؛ روسو و همکاران ، 1998) ، یعنی شخصی که به دیگری اعتماد دارد با این کار خطر می کند. بر این اساس ، لی و دیدن (2004) ، ص. 51) اعتماد را به عنوان "نگرشی که یک عامل در دستیابی به اهداف یک فرد در شرایطی که با عدم اطمینان و آسیب پذیری مشخص می شود ، تعریف کنید."در حوزه HRI ، تعریف برجسته ای از Wagner (2009) است ، و اعتماد را به عنوان "اعتقاد ، که توسط متقاضی [یعنی نماینده ای که اعتماد دارد] است که متولی [یعنی کسی که مورد اعتماد است] قرار می دهد ، مشخص می کند. به شکلی عمل کنید که خطر متقاضی را در شرایطی که متقاضی نتایج خود را در معرض خطر قرار داده است ، کاهش می دهد "(واگنر ، 2009 ، ص 31).

با اشاره به سطوح مختلف اعتماد ، بسیاری از محققان از مفهوم کالیبراسیون استفاده می کنند. کالیبراسیون توضیح می دهد که تا چه اندازه اعتماد شخص به یک فناوری با قابلیت های واقعی فناوری مطابقت دارد (Muir ، 1987 ؛ Lee and See ، 2004). بسته به کالیبراسیون بین اعتماد و توانایی ها ، سه سطح اعتماد را می توان متمایز کرد: اعتماد کالیبره شده ، بی اعتمادی و سبقت (Zeit-Online ، 2016). اعتماد کالیبره شده به این معنی است که سطح اعتماد با قابلیت های فناوری مطابقت دارد. بی اعتمادی به این معنی است که سطح اعتماد از توانایی های فناوری کم است. در نتیجه ، افراد ممکن است از پیشرفت فنی بهره مند نشوند و/یا خطر بیشتری را نسبت به حد لازم داشته باشند. به عنوان مثال ، در سال 1988 ، اپراتورهایی وجود داشتند که نمی خواستند به کنترل کننده های خودکار در کارخانه های کاغذ اعتماد کنند و بنابراین نتوانستند از مزایای آنها سود ببرند (زوبوف ، 1989). به همین ترتیب ، بی اعتمادی به روبات ها ، که در واقع بهینه شده اند و اغلب قابل اطمینان تر از انسان در حوزه های خاص کار هستند ، ممکن است منجر به خسارات و خطرات غیر ضروری زندگی انسان شود. سرانجام ، غلبه بر این بدان معنی است که اعتماد شخص از قابلیت های سیستم فراتر می رود. در موارد شدید ، انسان ممکن است به یک روبات اعتماد کند تا وظیفه ای را انجام دهد که هرگز برای انجام آن طراحی نشده و از این طریق خطر کامل ماموریت را به خطر می اندازد. به عنوان مثال ، خلبانان یک Airbus A320 آنقدر به یک اتوپیلوت اعتماد کردند که در نهایت آنها قادر به عمل دستی نبودند و باعث سقوط هواپیما شدند (Sparaco ، 1995). Overtrust همچنین می تواند منجر به از دست دادن مهارت یا از بین رفتن هوشیاری در هنگام نظارت بر کارهای نظارت شود ، همانطور که در زمینه اتومبیل های خودکار و سیستم های تشخیص پزشکی مورد بحث قرار گرفته است (کارلسون و همکاران ، 2014). چنین اعتماد بیش از حد به فناوری "هوشمند" می تواند به عنوان نسخه شدیدتر از تعصب اتوماسیون تلقی شود ، یعنی تمایل مردم به تعویض فناوری خودکار هنگام ارائه اطلاعات متناقض (Mosier et al. ، 1992 ؛ Wagner et al. 2018). به موازات این ، Overtrust همچنین به عنوان وضعیتی تعریف شده است که در آن "مردم خطر زیادی را می پذیرند زیرا فکر می کنند موجودی که به آنها اعتماد دارند ، این خطر را کاهش می دهد" (رابینت و همکاران ، 2016 ، ص 105). واگنر و همکاران ، 2018 ، ص. 22 این موضوع را به عنوان "وضعیتی که در آن شخص خطرات ناشی از یک عمل را سوء تفاهم می کند ، تعریف کرد زیرا شخص یا ضرر و زیان ناشی از نقض اعتماد را دست کم می گیرد ، این احتمال را که روبات چنین اشتباهی انجام دهد ، دست کم ارزیابی می کند."

نمونه هایی از سبقت در روبات ها و سیستم های هوشمند

یکی از برجسته ترین نمونه های اخیر از سبقت ، تصادفات ناشی از اتوپیلوت تسلا بود. تسلا شرکتی است که در ایالات متحده واقع شده است و اتومبیل های برقی تولید می کند (تسلا ، 2019a). نسخه اول Autopilot Tesla (سخت افزار 1 ، 2014-اکتبر 2016) یک سیستم پیشرفته کمک به رانندگی است که به عنوان یک سیستم خودکار سطح 2 توسط اداره ایمنی حمل و نقل بزرگراه (SAE) طبقه بندی شده است (SAE-Inteational ، 2018). به گفته تسلا ، "این به عنوان یک تجربه دستی طراحی شده است تا به رانندگان اعتماد به نفس بیشتری در پشت چرخ ببخشد ، ایمنی آنها را در جاده افزایش دهد و با کاهش بار کاری راننده ، رانندگی بزرگراه را لذت بخش تر کند" (تسلا ، 2019b). در سطح 2 (اتوماسیون جزئی) ، یک یا چند سیستم کمک به راننده هم از فرمان و هم شتاب/کاهش ، به عنوان مثال ، کنترل کروز و محور خط فعال هستند. با این حال ، راننده هنوز هم باید همیشه آماده کنترل وسیله نقلیه و انجام جنبه های باقیمانده کار رانندگی باشد (SAE-Inteational ، 2018).

در ماه مه 2016 در فلوریدا ، یک تسلا به کامیون سقوط کرد که در یک گذرگاه در حال چرخش بود. دلیل این حادثه احتمالاً این بود که دوربین های این خودرو سمت سفید کامیون تریلر را تشخیص نمی دهند و نمی توانند آن را از آسمان متمایز کنند ، بنابراین آن را به عنوان یک علامت خیابانی در نظر می گرفت (Zeit-Online ، 2016). در یک تصادف دیگر تسلا در چین ، راننده به یک اتومبیل سقوط کرد که در نزدیکی گاردریل پارکینگ بود. او زنده ماند. راننده اذعان کرد که او در ترافیک تمرکز ندارد. در عوض ، او فرض می کرد که تسلا او می تواند خطرات را شناسایی کند و بر این اساس واکنش نشان دهد. بر اساس ترویج اتومبیل های تسلا ، وی فرض کرد که به جای ماشین با اتوماسیون جزئی ، یک ماشین خود رانندگی خریداری کرده است. سایر مشتریان در چین این بیانیه را تأیید کردند که از فروشندگان دست خود را از چرخ خارج می کنند تا نشان دهند که این خودرو چه چیزی قادر است و نشان دهنده درک فریبنده ای از این فناوری است (گیسن ، 2016).

از این رو ، در بحث عمومی زیر ، نگرانی های اصلی مربوط به عملکرد سیستم نبود بلکه در مورد انتظارات ناکافی کاربران بود. اصطلاح "Autopilot" می تواند رانندگان را ترغیب کند که فرض کنند که نیازی به نظارت بر وسیله نقلیه ندارند. این امر بیشتر توسط داستانهای کاربر Anecdote مانند گزارش Reek (2015) در اولین درایو خود در تسلا با استفاده از Autopilot تقویت شد. وی اظهار داشت که پس از چند دقیقه ، او قبلاً به این فناوری عادت کرده بود. او همچنین آزمایش کرد که چه اتفاقی افتاد که دستان خود را از چرخ گرفت. به جای هشدار دادن به راننده بلافاصله برای قرار دادن دست های خود روی چرخ ، هیچ اتفاقی نیفتاد. گزارش های Reek و بسیاری از درایورهای دیگر در YouTube نشان می دهد که اعتماد به نفس مردم چقدر آسان است که به یک سیستم اعتماد کنند ، سرانجام منجر به استفاده غیرمسئولانه می شوند: حتی اگر خودکار تسلا هنوز در یک مرحله تست بود ، مردم شروع به ارسال فیلم در یوتیوب کردند ، بازی های بازی را انجام دادند.، یا خوابیدن و نادیده گرفتن هشدارها به صورت خودکار تسلا برای قرار دادن دستها روی چرخ (Autobild ، 2018). به نظر می رسید تعداد بیشتری از مردم به سیستم اعتماد دارند و فراموش کردند که این خودرو کاملاً خودمختار نبوده است (Süddeutsche-Zeitung ، 2016). رانندگان احساس راحتی می کردند و رفتارهای غیر منطقی را نشان می دادند ، مانند رانندگی هندزفری در اتومبیل های خود و بازی کردن (روز ، 2016). علاوه بر این ، انگیزه به دنبال پاداش از مخاطبان YouTube ممکن است همه تردیدها را کنار بگذارد. یک فیلم ، که توسط یک مجری رادیو آلمانی نمایش داده شده است ، حتی نشان می دهد که چگونه دستان خود را از چرخ خارج می کند و به ماشین دستور می دهد تا به خط راست تغییر کند. این امر به طور جدی بسیار مهم است زیرا Autopilot Tesla هنوز اتومبیل هایی با سرعت 300 کیلومتر در ساعت را تشخیص نمی دهد اما این سرعت در برخی از بزرگراه های خاص در آلمان مجاز است (البته که به طور مکرر یافت نمی شود) (Reek ، 2015).

از دیدگاه آماری ، اتومبیل های خودران ممکن است حوادث بسیار کمتری نسبت به رانندگان انسانی داشته باشند و از دیدگاه های بسیاری پتانسیل عظیمی را فراهم کنند. نوآوری در این زمینه می تواند صنعت بیمه اتومبیل را با کاهش تصادفات تغییر دهد: گزارشی از شرکت حسابرسی KPMG پیش بینی می کند که تصادفات تا سال 2040 80 ٪ کاهش می یابد (آلبرایت و همکاران ، 2015). کارمندان می توانند با کار به جای رانندگی در هنگام مسافرت روزانه ، ساعت تولیدی را در طول روز به دست آورند. از این رو ، پس از ظهور اولین تصادف اتومبیل ، تسلا در حال حاضر توضیح داد که این اولین تصادف پس از 200 میلیون کیلومتر تکمیل شده است ، در مقایسه با یک تصادف کشنده اتومبیل پس از میانگین 150 میلیون کیلومتر اگر یک انسان در حال رانندگی است (Autobild ، 2018). علاوه بر این ، غم انگیز است که حتی اگر رانندگان به جای سبقت ، سطح کافی از اعتماد را تشکیل داده بودند ، حتی ممکن است از تصادفات کشنده نیز جلوگیری شود.

نمونه های مشابهی از سبقت را نیز می توان در حوزه روبات ها یافت. همانطور که در بالا ذکر شد ، رابینت و همکاران.(2016) اعتماد به روبات های تخلیه اضطراری را مورد مطالعه قرار داد. در یکی از مطالعات اخیر خود در یک محیط در دنیای واقعی (رابینت و همکاران ، 2017) ، آنها ابتدا نمایشی از یک روبات تخلیه اضطراری را به شرکت کنندگان نشان دادند که قرار بود آنها را به نزدیکترین خروجی سوق دهد. در 50 ٪ موارد ، این روبات شکست خورد و در 50 ٪ موفق شد. پس از آن ، سناریوی واقعی تخلیه اضطراری با گسترش دود و فعال کردن زنگ خطر شبیه سازی شد. برای تعجب رابینت و همكاران ، شركت كنندگان حتی وقتی در تظاهرات معیوب عمل كردند ، از این ربات پیروی كردند و حتی وقتی واقعاً متوجه شدند كه این روبات به سمت اشتباه می رود. این برای Robinette و همکاران تعجب آور بود. همانطور که در مطالعات قبلی خود در محیط های مجازی ، جایی که هیچ آسیب مستقیم وجود ندارد ، مردم از ربات معیوب پیروی نمی کردند (رابینت و همکاران ، 2016). احتمالاً ، احساس خطر واقعی هنوز هم ممکن است خطر غلبه بر خطر را افزایش دهد: در یک وضعیت امن که در آن هیچ آسیب مستقیم به کاربر نمی تواند انجام شود ، اعتماد به یک روبات معیوب پایین تر از یک وضعیت اضطراری است که در آن سلامت کاربر به آن وابسته استرفتار رباتاز دیدگاه اجتماعی و روانی ، اعتماد بیشتر به روبات ها در موقعیت های به ویژه ریسک پذیر نیز ممکن است منعکس کننده نوعی تغییر مسئولیت و انتشار مسئولیت باشد. انتشار مسئولیت پدیده ای را توصیف می کند که فرد در هنگام حضور دیگران 1 مسئولیت عمل یا عدم تحرک را به عهده می گیرد. اگر این ممکن است یک ربات نیز باشد ، ممکن است یک روبات اضطراری نیز به عنوان فرصتی برای به اشتراک گذاشتن سرزنش و گناه برای نتیجه بالقوه بد در شرایط شدید ظاهر شود.

علاوه بر پیامدهای چشمگیر برای خود کاربران (به عنوان مثال ، صدمه دیده در یک تصادف) ، Overtrust همچنین تصویر سازنده را تهدید می کند. حتی اگر این فناوری در طیف موقعیت ها عملکرد خوبی داشته باشد ، برای آن ساخته شده است ، استفاده در موقعیت های فراتر از قابلیت های سیستم منجر به یک تجربه منفی ، افت چشمگیر اعتماد و شهرت منفی "ناعادلانه" می شود. همان تأثیر تعمیم نامناسب که ممکن است منجر به غلبه بر آن شود (اگر در شرایط خوب باشد ، باید در شرایط خوب باشد) سپس منجر به بی اعتمادی می شود (اگر در B شکست بخورد ، به طور کلی یک شکست است). بنابراین ، از دیدگاه فردی ، اجتماعی و اقتصادی ، نه سبقت و بی اعتمادی مطلوب نیست.

اعتماد به روبات ها و موازی با حوزه های دیگر اعتماد

با توجه به توسعه اعتماد به روبات ها و سیستم های هوشمند ، تحقیقات قبلی در دو حوزه ممکن است به ویژه آموزنده باشد: اعتماد به اتوماسیون و اعتماد به انسان. تا حدی ، اعتماد به انسان ، اتوماسیون و روبات ها مبتنی بر ویژگی های اساسی مشابه مانند قابلیت اطمینان ، پیش بینی و توانایی است (جیان و همکاران ، 2000). مطالعات تجربی نشان داد که اعتماد به روبات ها با اعتماد به اتوماسیون به شدت ارتباط دارد (شریدان ، 2002 ؛ لی و دیدن ، 2004 ؛ پاراسورامان و همکاران ، 2008 ؛ چن و همکاران ، 2010) و تعاریف در زمینه اعتماد به سیستم های خودکاربه طور معمول برای اعتماد به روبات ها نیز قابل استفاده هستند (لی و ببینید ، 2004 ؛ هنکوک و همکاران ، 2011). شروع از تعریف اتوماسیون به عنوان "اجرای توسط یک دستگاه دستگاه (معمولاً یک رایانه) از عملکردی که قبلاً توسط یک انسان انجام شده بود" (پاراسورامان و رایلی ، 1997 ، ص 231) ، روبات ها این زمینه را با ادراک گسترش می دهند وهوش و سایر عوامل مهم (Feil-Seifer and Mataric ، 2005 ؛ Yagoda and Gillan ، 2012). علاوه بر این ، و بر خلاف اکثر سیستم های خودکار ، روبات ها حتی شبیه به انسان یا حیوانات هستند. در نتیجه ، روبات ها ممکن است مکانیسم های روانشناختی را از تعامل اجتماعی بین انسان ایجاد کنند ، نشان می دهد که تحقیقات در مورد اعتماد بین انسان نیز ممکن است در اینجا نقش داشته باشد. از نظر عینی در نظر گرفته می شود ، پویایی متقابل اعتماد در بین انسان و اعتماد بین انسان و مصنوعات (انسانی) تفاوتهای اساسی دارد. اگر به عنوان مثال کسی به من اعتماد کند ، من این احساس را خواهم داشت که نباید این شخص را ناامید کنم. برعکس ، یک مصنوعات این احساسات را نخواهد داشت (Coeckelbergh ، 2012). با وجود این تفاوت های اساسی ، نمی توان رد کرد که مردم هنوز الگوهای رفتاری را از تعامل انسان و انسانی به تعامل انسان و روبات منتقل می کنند. همانطور که بارها نشان داده شده است ، انسان روبات ها را به عنوان بازیگران اجتماعی می شناسد (Keijsers and Bartneck ، 2018): انسانها با روبات ها صحبت می کنند که گویی می فهمند آنچه گفته می شود (بارتنک و همکاران ، 2007) ، هنگام مجازات آنها از آنها پشیمان می شوند (اسلاتر (اسلاتر)و همکاران ، 2006) ، و سعی کنید از صدمه دیدن روبات ها جلوگیری کنید (دارلینگ ، 2012).

مربوط به بحث روبات ها و رایانه ها به عنوان بازیگران اجتماعی ، همانطور که قبلاً در دهه 90 آغاز شده است (ناس و همکاران ، 1994 ؛ لی و ناس ، 2003) ، عامل انسان شناسی است. این به معنای استفاده از خصوصیات انسانی (فرم و رفتار) برای عوامل مصنوعی مانند روبات ها است (بارتنک و همکاران ، 2009). این مبتنی بر تمایل یک انسان برای درمان اشیاء با ظاهر انسانی بیشتر شبیه به یک انسان است. بنابراین ، ظاهر و رفتار ربات ممکن است باعث افزایش هوش و تعامل آن (حرکات و چشمان متحرک) با انسان شود (Cathcart ، 1997 ؛ Qiu and Benbasat ، 2009 ؛ de Graaf and Allouch ، 2013). بر این اساس ، مطالعات متعدد نشان داده اند که ظاهر یک ربات می تواند بر انتظار ، ادراک و ارزیابی رفتار و توانایی های آن تأثیر بگذارد (Kiesler and Goetz ، 2002 ؛ Goetz et al. ، 2003 ؛ Robins et al. ، 2004 ؛ Sirdal et al. ،2007). با استفاده از چنین بینش هایی ، از جلوگیری از ویژگی هایی که ممکن است کاربران را به سمت روبات های انسان شناسی سوق دهد ، قبلاً به عنوان یک نقطه شروع احتمالی برای کاهش سبقت پیشنهاد شده است (واگنر و همکاران ، 2018).