عوامل زمینه ای چیست؟

پنج عامل متنی تأثیر در هدفی دارند که فرد مایل به استفاده از توضیحی برای آن است ، و چگونه باید توضیحات خود را ارائه دهید:

• دامنه ای که در آن کار می کنید ؛
• تأثیر بر فرد ؛
• داده های مورد استفاده ؛
• فوریت تصمیم ؛وت
• مخاطبی که به آن ارائه می شود.

با جزئیات بیشتر

معرفی

هنگام تهیه توضیحی برای یک فرد ، عوامل مختلفی در مورد زمینه ای که تصمیم به کمک AI در آن گرفته شده است وجود دارد. اینها در نوع توضیحی که افراد مفید می یابند و اهداف مورد نظر برای استفاده از آن را تأثیر می گذارد.

از تحقیقات اولیه که ما انجام دادیم ، به ویژه با اعضای عمومی ، پنج عامل مهم متنی را شناسایی کردیم که بر این دلیل مردم می خواهند توضیحات در مورد تصمیمات با کمک AI را انجام دهند. این عوامل متنی در زیر آمده است ، به همراه پیشنهادهایی که توضیحات مربوط به اولویت بندی در ارائه توضیح در مورد AI با کمک AI را ارائه می دهد. شما باید این عوامل را در تمام مراحل فرآیند ذکر شده در قسمت 2 این راهنمایی در نظر بگیرید.

هنگام در نظر گرفتن این عوامل متنی ، به خاطر داشته باشید که ارائه توضیحات برای دریافت کنندگان تصمیم گیری ، آنها را در مورد سیستم های هوش مصنوعی نیز آموزش می دهد. بنابراین ممکن است ارزش فکر کردن در مورد اطلاعاتی را که می توانید قبل از پردازش ارائه دهید به منظور کمک به توسعه دانش و درک استفاده از هوش مصنوعی در بین عموم مردم باشد.

عامل حوزه

این عامل چیست؟

با "دامنه" ، منظور ما تنظیم یا بخشی است که شما مدل هوش مصنوعی خود را مستقر می کنید تا به شما در تصمیم گیری در مورد مردم کمک کند. این می تواند بر توضیحاتی که مردم می خواهند تأثیر بگذارد. به عنوان مثال ، آنچه مردم می خواهند در مورد تصمیمات با کمک AI که در حوزه عدالت کیفری اتخاذ می شود ، بدانند ، می تواند تفاوت چشمگیری با سایر حوزه ها مانند مراقبت های بهداشتی داشته باشد.

به همین ترتیب ، استانداردهای توضیحات خاص دامنه یا بخش می تواند آنچه را که مردم از توضیحات انتظار دارند تأثیر بگذارد. به عنوان مثال ، شخصی که تصمیم وام مسکن AI را دریافت می کند ، انتظار دارد که در مورد استدلال در مورد تصمیم گیری به گونه ای که مطابق با استانداردها و شیوه های وام تعیین شده است ، بیاموزد.

کدام توضیحات را باید در اولویت قرار دهیم؟

با توجه به ضریب دامنه شاید مهمترین تعیین کننده توضیحات شما در هنگام برقراری ارتباط با افراد آسیب دیده باشد و اولویت بندی کنید. اگر سیستم هوش مصنوعی شما در یک محیط ایمنی مهم عمل کند ، گیرندگان تصمیم گیری بدیهی است که توضیحات ایمنی و عملکرد مناسب را می خواهند. با این حال ، اگر سیستم شما در دامنه ای کار می کند که نگرانی های تعصب و تبعیض شیوع دارد ، احتمالاً آنها می خواهند شما یک توضیح انصاف ارائه دهید.

در حوزه های پایین تر مانند تجارت الکترونیکی ، بعید به نظر می رسد که مردم بخواهند توضیحات گسترده ای در مورد ایمنی و عملکرد خروجی سیستم های پیشنهادی داشته باشند. با این وجود ، در این حوزه های تحت تأثیر پایین ، شما باید مؤلفه های اصلی و مسئولیت پذیری (و همچنین سایر انواع توضیحات مرتبط) هر سیستم تصمیم گیری را که بر افراد تأثیر می گذارد ، توضیح دهید.

به عنوان مثال ، برنامه های تأثیرگذاری پایین مانند توصیه های محصول و شخصی سازی (به عنوان مثال تبلیغات یا محتوا) ، ممکن است باعث ایجاد حساسیت در مورد هدف قرار دادن جمعیتی خاص یا نادیده گرفتن دیگران شود (به عنوان مثال نقش های رهبری تبلیغاتی که در مردان هدف قرار گرفته است). اینها موضوعات آشکار از انصاف و تأثیر بر جامعه را افزایش می دهد و اهمیت توضیحات مربوط به این موضوعات را افزایش می دهد.

عامل تأثیر

این عامل چیست؟

عامل "تأثیر" در مورد تأثیراتی است که یک تصمیم به کمک AI می تواند بر جامعه فردی و گسترده تری داشته باشد. سطوح مختلف شدت و انواع مختلف تأثیر می تواند آنچه را که افراد مفید می دانند را تغییر دهد و هدف توضیحاتی را ارائه می دهد.

آیا تصمیمات ایمنی مهم ، مربوط به زندگی یا شرایط مرگ (بیشتر در حوزه مراقبت های بهداشتی) است؟آیا تصمیمات بر آزادی یا وضعیت قانونی شخص تأثیر می گذارد؟آیا تأثیر این تصمیم شدیدتر اما هنوز هم قابل توجه است (به عنوان مثال انکار یک ابزار یا هدف قرار دادن یک پیام سیاسی)؟یا اینکه تأثیر بی اهمیت تر است (به عنوان مثال که توسط یک سیستم هوش مصنوعی به یک پیشخوان بلیط خاص هدایت می شود که در یک فرودگاه صف ها را مرتب می کند)؟

کدام توضیحات را باید در اولویت قرار دهیم؟

به طور کلی ، در جایی که یک تصمیم به کمک AI تأثیر زیادی بر فرد داشته باشد ، توضیحاتی مانند انصاف ، ایمنی و عملکرد و تأثیر آن اغلب مهم است ، زیرا افراد می خواهند در مورد ایمنی تصمیم اطمینان داشته باشند ، به آنها اعتماد کنند تا به آنها اعتماد کنند. با عادلانه رفتار می شود و برای درک عواقب.

با این حال ، توضیحات منطقی و مسئولیت بسته به سایر عوامل زمینه ای می تواند به همان اندازه مهم باشد. به عنوان مثال ، اگر ویژگی های داده های استفاده شده توسط مدل AI قابل تغییر باشد ، یا استنتاج های ترسیم شده برای تفسیر باز است و می توان به چالش کشید.

با توجه به تأثیر به عنوان یک عامل متنی ساده نیست. هیچ قانون سخت و سریع وجود ندارد. شما باید این کار را به صورت موردی انجام دهید و آن را در ترکیب با سایر عوامل زمینه ای در نظر بگیرید. همچنین باید گفتگوی فراگیر در زمینه های تخصصی که در طراحی ، توسعه و استقرار سیستم AI نقش دارند ، باشد. جمع شدن اعضای تیم مختلف ، که دارای تخصص فنی ، سیاست ، انطباق و حوزه هستند می توانند دیدگاه آگاهانه تری از عامل تأثیر یک مدل هوش مصنوعی ارائه دهند.

عامل داده

این عامل چیست؟

"داده ها" به عنوان یک عامل متنی مربوط به داده های مورد استفاده برای آموزش و آزمایش مدل AI شما و همچنین داده های ورودی در نقطه تصمیم است. نوع داده های مورد استفاده در مدل هوش مصنوعی شما می تواند بر تمایل یک فرد برای پذیرش یا به چالش کشیدن یک تصمیم به کمک AI و اقدامات آنها در نتیجه تأثیر بگذارد.

این عامل نشان می دهد که شما باید در مورد ماهیت داده هایی که مدل شما در آن آموزش داده شده است فکر کنید و در هنگام استقرار به عنوان ورودی برای خروجی های آن استفاده می کنید. شما باید در نظر بگیرید که آیا داده ها بیولوژیکی یا فیزیکی هستند (به عنوان مثال داده های زیست پزشکی مورد استفاده برای تحقیق و تشخیص) ، یا اینکه این داده های اجتماعی در مورد ویژگی های جمعیتی یا اندازه گیری رفتار انسان است.

همچنین باید در نظر بگیرید که آیا یک فرد می تواند نتیجه یک تصمیم را تغییر دهد. اگر عواملی که به تصمیم شما می روند مواردی هستند که می توانند تحت تأثیر تغییر در رفتار یا سبک زندگی شخصی باشند ، بیشتر احتمال دارد که افراد اگر با نتیجه موافق نباشند ، بخواهند این تغییرات را انجام دهند.

به عنوان مثال ، اگر تصمیم وام بانکی بر اساس فعالیت مالی مشتری گرفته شود ، ممکن است مشتری بخواهد رفتار هزینه خود را تغییر دهد تا در آینده این تصمیم را تغییر دهد. این بر نوع توضیحی که فرد می خواهد تأثیر می گذارد. اما اگر داده ها انعطاف پذیر کمتری باشند ، مانند داده های بیوفیزیکی ، کمتر احتمال دارد که فرد با خروجی سیستم AI مخالف باشد. به عنوان مثال در مراقبت های بهداشتی ، خروجی که توسط یک سیستم AI بر روی یک تشخیص پیشنهادی بر اساس داده های ژنتیکی در مورد بیمار تولید می شود ، بیشتر ثابت است - این چیزی نیست که بیمار به راحتی می تواند تغییر دهد.

کدام توضیحات را باید در اولویت قرار دهیم؟

اغلب برای اولویت بندی توضیحات منطقی ، هم برای داده های اجتماعی و هم برای داده های بیوفیزیکی مفید خواهد بود. در جاهایی که از داده های اجتماعی استفاده می شود ، افرادی که تصمیم نامطلوب دریافت می کنند می توانند استدلال را درک کنند و از این امر یاد بگیرند تا رفتار خود را برای تصمیمات آینده به طور مناسب تطبیق دهند. برای داده های بیوفیزیکی ، این می تواند به مردم کمک کند تا درک کنند که چرا تصمیمی درباره آنها گرفته شده است.

با این حال ، در جایی که از داده های بیوفیزیکی استفاده می شود ، مانند تشخیص پزشکی ، افراد ممکن است ترجیح دهند که نتیجه تصمیم گیری برای آنها به سادگی بدانند و در مورد ایمنی و قابلیت اطمینان تصمیم اطمینان حاصل شود. در این موارد ، اولویت بندی تأثیر و ایمنی و توضیحات عملکرد برای رفع این نیازها منطقی است.

از طرف دیگر ، در جایی که ماهیت داده ها اجتماعی یا ذهنی است ، افراد به احتمال زیاد نگرانی در مورد آنچه داده ها برای تصمیم گیری در نظر گرفته شده اند ، و مناسب بودن یا انصاف این امر در تأثیرگذاری بر تصمیم AI به کمک AIآنهادر این شرایط ، توضیحات داده ها و انصاف به شما کمک می کند تا با گفتن اینکه داده های ورودی ، از کجا بوده اند ، از کجا بوده و چه اقداماتی را انجام داده اید تا اطمینان حاصل شود که استفاده از این داده ها برای تصمیم گیری های کمک شده به AI نتیجه نمی گیرد. در تعصب یا تبعیض.

عامل فوریت

این عامل چیست؟

عامل "فوریت" مربوط به اهمیت دریافت یا اقدام به نتیجه یک تصمیم به کمک AI در یک بازه زمانی کوتاه است. آنچه مردم می خواهند در مورد یک تصمیم بدانند بسته به اینکه چقدر زمان کم یا زیاد برای تأمل در آن وجود دارد ، می تواند تغییر کند.

ضریب فوریت توصیه می کند که فکر کنید که تصمیم AI به کمک AI چقدر ضروری است. به این فکر کنید که آیا یک دوره خاص عمل اغلب پس از نوع تصمیماتی که می گیرید ، و چقدر سریع نیاز به انجام آن عمل دارید ، ضروری است.

کدام توضیحات را باید در اولویت قرار دهیم؟

جایی که فوریت یک عامل اصلی است ، بیشتر احتمال دارد که افراد بخواهند بدانند که عواقب آنها برای آنها چیست و اطمینان می یابد که مدل هوش مصنوعی به تصمیم گیری در تصمیم گیری کمک می کند. بنابراین ، تأثیر و توضیحات ایمنی و عملکرد در این موارد مناسب است. این امر به این دلیل است که این توضیحات به افراد کمک می کند تا درک کنند که این تصمیم چگونه بر آنها تأثیر می گذارد ، چه اتفاقی می افتد و چه اقدامات و آزمایش هایی برای به حداکثر رساندن و نظارت بر ایمنی و عملکرد مدل AI انجام شده است.

عامل مخاطب

این عامل چیست؟

"مخاطب" به عنوان یک عامل متنی مربوط به افرادی است که شما در حال توضیح یک تصمیم AI هستند. گروه هایی از افرادی که در مورد آنها تصمیم می گیرید ، و افراد درون آن گروه ها تأثیر می گذارند که چه نوع توضیحات برای آنها معنی دار یا مفید است.

آنها در مورد چه میزان تخصص (به عنوان مثال در مورد هوش مصنوعی) در مورد تصمیم گیری در مورد چیست؟آیا طیف گسترده ای از افراد مشمول تصمیماتی که شما می گیرید (به عنوان مثال عموم مردم انگلستان) ، که نشان می دهد ممکن است طیف گسترده ای از دانش یا تخصص نیز وجود داشته باشد؟یا آیا افرادی که تصمیم می گیرید در مورد محدود به زیر مجموعه کوچکتر (به عنوان مثال کارمندان خود) تصمیم می گیرید ، نشان می دهد که آنها ممکن است در مورد چیزهایی که در مورد آنها تصمیم می گیرید آگاهی بیشتری داشته باشند؟همچنین در نظر بگیرید که آیا گیرندگان تصمیم در نحوه دریافت توضیحات نیاز به هرگونه تعدیل معقول دارند (قانون برابری 2010).

به عنوان یک قاعده کلی ، ایده خوبی است که نیازهای توضیح دهنده افراد آسیب پذیر را تأمین کنیم. شما باید اطمینان حاصل کنید که این گیرندگان تصمیم می توانند اطلاعاتی را که به آنها می دهید به وضوح درک کنند. با استفاده از ابزارهای ساده و غیر فنی و ابزارهای تجسم ، در صورت امکان ، اغلب ممکن است کمک کند.

همچنین توجه داشته باشید که ، در حالی که ما روی گیرنده تصمیم گیری تمرکز می کنیم ، شما همچنین به احتمال زیاد باید در مورد چگونگی ارائه اطلاعات مناسب در مورد خروجی های مدل هوش مصنوعی خود ، پیش بینی قابل توجهی را ارائه دهید. به عنوان مثال ، در مواردی که مدل ها از تصمیم گیری حمایت می کنند ، شما باید کاربران نهایی یا مجریان این مدل ها را با عمق و سطح توضیحی ارائه دهید که برای کمک به آنها در انجام استدلال مبتنی بر شواهد در راه است. این حساس به متن است و از محدودیت های مدل آگاه است. به همین ترتیب ، در مواردی که مدل ها و نتایج آنها توسط حسابرسان مورد بررسی قرار می گیرد ، شما باید اطلاعاتی در مورد این سیستم ها را در یک سطح و عمق ارائه دهید که به منظور بررسی مربوطه مناسب است.

کدام توضیحات را باید در اولویت قرار دهیم؟

اگر افرادی که در مورد آنها تصمیم می گیرید ، احتمالاً دارای تخصص دامنه هستند ، ممکن است استفاده از توضیحات دلیل منطقی را در نظر بگیرید. این امر به این دلیل است که شما می توانید اطمینان بیشتری داشته باشید که آنها می توانند استدلال و منطق یک مدل هوش مصنوعی یا یک تصمیم خاص را درک کنند ، زیرا آنها بیشتر با موضوع تصمیمات آشنا هستند. علاوه بر این ، اگر افراد مشمول تصمیمات به کمک هوش مصنوعی شما دارای تخصص فنی باشند ، یا احتمالاً به جزئیات فنی که زیر نظر تصمیم است علاقه مند هستند ، توضیحات ایمنی و عملکرد کمک خواهد کرد.

از طرف دیگر ، در جایی که فکر می کنید احتمالاً افراد در مورد موضوع تصمیم یا جنبه های فنی آن ، تخصص و دانش خاصی ندارند ، انواع دیگر توضیحات مانند مسئولیت یا جنبه های خاص توضیحات ایمنی و عملکرد ممکن است مفیدتر باشد. این به گونه ای است که افراد می توانند در مورد ایمنی سیستم اطمینان داشته باشند و بدانند که با چه کسی تماس بگیرند تا در مورد تصمیم هوش مصنوعی سؤال کنند.

البته ، حتی برای کسانی که دانش کمی از یک منطقه دارند ، توضیح منطقی هنوز هم می تواند برای توضیح دلایل اتخاذ تصمیم به صورت ساده و ساده مفید باشد. اما ممکن است مواردی نیز وجود داشته باشد که داده های استفاده شده و استنتاج های ناشی از یک مدل AI به ویژه پیچیده باشد (به ضریب "داده" در بالا مراجعه کنید) ، و افراد ترجیح می دهند توضیح منطقی را به یک متخصص دامنه مربوطه واگذار کنند. سپس این متخصص می تواند در مورد اعتبار یا مناسب بودن دلایل تصمیم گیری (به عنوان مثال پزشک در یک محیط مراقبت های بهداشتی) نتیجه گیری آگاهانه خود را بررسی کند و به نتیجه گیری آگاهانه خود برساند.