اخلاق هوش مصنوعی موضوع جدیدی را اضافه می کند، یعنی تزریق سیاست به هوش مصنوعی ما، که نمونه ای از طریق … [+] ظهور اتومبیل های خودران به نشان دادن آن کمک می کند.
بیایید سیاسی صحبت کنیم.
خوب، متوجه هستم که شما احتمالاً در مورد تمرکز ظاهراً بی وقفه روی سیاست در تمام منابع رسانه های موجود این روزها خسته شده اید. حالت های قرمز در مقابل حالت های آبی. لیبرال ها در مقابل محافظه کاران دموکرات ها در مقابل جمهوری خواهان پچ پچ در مورد دسیسه های سیاسی به طرز وحشتناکی بی پایان است.
ممکن است به طور منطقی فرض کرده باشید که موضوعاتی وجود دارند که سیاست به طور خاص وارد تصویر نمی شود. در اصل، شاید دو دسته مجزا از موضوعات وجود داشته باشد، یعنی موضوعاتی که به هر نحوی از نظر سیاسی القا می‌شوند، و موضوعات پیش پا افتاده‌تر دیگری که از قلمرو سیاسی دور می‌شوند یا می‌گریزند.
به نظر می رسد منطقی است که موضوعات چشم نوازی وجود داشته باشد که برای همیشه در سیاست و خشم سیاسی غوطه ور هستند، مانند فهرست طولانی مدت که شامل جنبه های مراقبت بهداشتی ملی، جنبه های انتخاباتی، کنترل اسلحه، مهاجرت، و مانند آن تنها کاری که باید انجام دهید این است که هر یک از آن موضوعات را ذکر کنید و اتفاق بعدی این است که در یک طوفان سیاسی غوطه ور شوید. بحث های نسبتاً تند تقریباً تضمین شده است.
روی دیگر سکه آتش سوزی، شاید موضوعاتی وجود داشته باشد که چنین واکنش سیاسی زانویی را به دنبال نداشته باشد. من می‌خواهم یکی از این موضوعات را پیش روی شما بگذارم تا واکنش اصلی شما را دریافت کنم.
آماده؟
ماشین ها.
بله، موضوع روزمره خودروها، خودروها، وسایل نقلیه موتوری، یا هر طور که مایلید آن را بیان کنید، آیا این موضوع باعث اعتراض سیاسی می‌شود یا باعث ایجاد تهمت سیاسی یا مشت‌های کلامی می‌شود؟
ممکن است در ظاهر به نظر نرسد که نگرانی های سیاسی در مورد خودروها افزایش یافته است. آنها به سادگی نوعی حمل و نقل روزانه هستند. سوار ماشینت می‌شوی و به سمت محل کار می‌روی. شما از ماشین خود برای انجام امور استفاده می کنید و می روید خواربار فروشی. اگر می‌توانید زمانی را برای تعطیلات اختصاص دهید، از ماشین خود برای رفتن به جنگل‌های باز استفاده می‌کنید یا شاید از برخی آثار ملی با ارزش دیدن کنید.
به نظر می رسد خودروها غیرسیاسی هستند.
متاسفم، اما به وفور اینطور نیست.
می‌توان گفت که اتومبیل‌ها مانند هر موضوع دیگری که به‌اصطلاح نقطه اشتعال نامیده می‌شود، محاصره و غرق در سیاست هستند. شاید رسانه‌های عمومی آنقدر که ممکن است برای موضوعات جذاب‌تر دیگر انجام شود، سیاست خودرو محور را پوشش نمی‌دهند، اما با این وجود، جریان‌های پنهان سیاسی هنوز وجود دارند.
یکی از ابعاد آشکار سیاسی این است که خودروهای ما باید از چه چیزی تشکیل شوند.
منظورم آرایش یا مکانیزه شدن خودروهاست. به عنوان مثال، یک بحث سیاسی سرسخت در مورد اینکه آیا خودروها باید از ICE (موتورهای احتراق داخلی) در مقابل تغییر به EV (وسایل نقلیه الکتریکی) استفاده کنند وجود دارد. این حوزه ای از گفتمان مهم است که با موضوعات سیاسی متعدد دیگری مانند مسائل زیست محیطی و جنبه های تغییرات آب و هوایی مرتبط است.
موضوعی کمتر شناخته شده و در عین حال مرتبط به اندازه خودروها و ردپای کلی آنها از جنبه های مختلف می پردازد. آیا باید خودروهای سایز بزرگ داشته باشیم یا فقط خودروهای سایز کوچکتر؟ آیا باید خودروهایی را طراحی کنیم تا از استفاده همه جانبه از خودرو جلوگیری کنیم، با هدف ترغیب مردم به استفاده از حمل و نقل عمومی و حمل و نقل عمومی؟ و غیره.
در اینجا چیزی است که احتمالاً به آن فکر نکرده اید.
برخی از مطالعات بررسی کرده اند که آیا نوع خودرو متعلق به گرایش های سیاسی مالک خودرو است یا خیر. احتمالاً، شما ممکن است بتوانید یک همبستگی آماری بین فردی که دموکرات اعلام شده است در مورد نوع ماشین خریداری شده پیدا کنید، و همچنین یک همبستگی آماری بین جمهوری خواه بودن و نوع خودروی مالکیت پیدا کنید. من در اینجا به این مطالعات نمی پردازم، اگرچه می خواهم ذکر کنم که شما باید چنین مطالعاتی و نتایج آنها را با نگاهی احتیاط آمیز و شک و تردید در مورد اعتبار آماری مربوط تفسیر کنید.
صحبت از استفاده از آمار، زاویه جالب دیگری در خصوص ویژگی های سیاسی و خودروها وجود دارد. تلاش‌های تحقیقاتی وجود دارد که به نظر می‌رسد رفتارهای مختلف رانندگی افراد را به وابستگی به حزب سیاسی آن رانندگان گره می‌زند.
سوالاتی که اغلب به آنها پرداخته می شود عبارتند از:
· آیا رانندگانی که دچار تصادفات یا تصادفات رانندگی می شوند به احتمال زیاد دموکرات یا جمهوری خواه هستند؟
آیا رانندگان مست بیشتر لیبرال هستند یا محافظه کار؟
هنگامی که آن حوادث خشم دیوانه کننده جاده رخ می دهد، که در آن رانندگان از کوره در می روند و به یکدیگر حمله می کنند، آیا آن دیوانه های خشمگین دیوانه گرایش به لیبرال یا محافظه کار دارند؟
چه کسی بلیط ترافیک بیشتری دریافت می کند و احتمالاً با خطر بیشتری رانندگی می کند، دموکرات ها یا جمهوری خواهان؟
· و غیره.
باز هم، من قصد ندارم در اینجا به آن تلاش های تحقیقاتی بپردازم. و یک بار دیگر، لطفاً هنگام خواندن چنین مطالعاتی یا دیدن عناوین درخشان در مورد نتایج آنها، مطمئن شوید که مراقب خود باشید. تنها چیزی که می‌خواهم بگویم این است که خط قدیمی در مورد آمار هنوز هم امروز به میزان زیادی صادق است، به‌طوری‌که دروغ‌ها، دروغ‌های نفرین‌آمیز و آمار وجود دارد (من آن خرد نمکی را برای مخاطبان مهربان‌تر پاک کردم).
بنابراین به نظر می رسد که ما شواهد زیادی داریم که متاسفانه موضوع خودروها با مفاهیم سیاسی آمیخته شده است.
سپس موضوع دیگری را انتخاب خواهم کرد، موضوعی که شاید واقعاً کاملاً غیرسیاسی باشد.
این بار آماده ای؟
هوش مصنوعی (AI).
مطمئناً، می توان امیدوار بود که هوش مصنوعی باید غیرسیاسی باشد، به خصوص وقتی صحبت از ظرفیت های داخلی سیستم های هوش مصنوعی می شود. شما ممکن است البته مظنون که سیاست که آیا محیط AI باید مورد استفاده قرار گیرد و یا مورد استفاده قرار گیرد وجود دارد، اما شما ظاهرا فکر می کنم که internality از یک سیستم هوش مصنوعی فراتر هر تخمیر سیاسی به خودی باشد.
قبل از اینکه نگاهی دقیق‌تر به این فرض رایج بیندازیم، ممکن است آموزنده باشد که برخی از جنبه‌های دیگر هوش مصنوعی را در نظر بگیریم که اخیراً باعث شده است که بسیاری در مورد تمایل بی‌عیب به تولید و پذیرش غریزی سیستم‌های هوش مصنوعی تجدیدنظر کنند.
ببینید، در عجله به سمت هیجان AI For Good در چندین سال گذشته، این درک رو به افزایش وجود دارد که همه هوش مصنوعی لزوما خوب نیستند. ما متوجه شدیم که فرصت های زیادی برای ایجاد هوش مصنوعی For Bad وجود دارد. این می‌تواند با نیت هدفمند کسانی که هوش مصنوعی را توسعه می‌دهند اتفاق بیفتد و همچنین می‌تواند با چیزی که برخی به شدت استدلال می‌کنند فقدان کاملا غیرمسئولانه نظارت صحیح توسط توسعه‌دهندگان هوش مصنوعی و کسانی که سیستم‌های هوش مصنوعی را منتشر می‌کنند، اتفاق بیفتد.
من بسیاری از این مسائل اخلاق هوش مصنوعی را در پوشش ستون خود پوشش داده ام، مانند پیوند اینجا و پیوند اینجا .
به عنوان شاخص AI For Bad موضوع تشخیص چهره را در نظر بگیرید.
بسیاری فکر می کردند که تشخیص چهره شیک ترین فناوری هوش مصنوعی خواهد بود (و از بسیاری جهات، در واقع نوعی هوش مصنوعی برای خوب است ). انجام امور بانکی در دستگاه‌های خودپرداز بسیار آسان است و به جای استفاده از پین کد مخفی و کارت بانکی، صورت خود را برای شناسایی اسکن کنید. خیلی راحت است که وارد یک فروشگاه مواد غذایی شوید و صرفاً با استفاده از صورت خود به عنوان وسیله ای برای نشان دادن حساب خواربار فروشی آنلاین خود که می توانید برای هر کالایی که انتخاب می کنید هزینه دریافت کنید، خرید کنید.
شما مته را می دانید.
نکته بعدی که می دانید، جامعه شروع به کشف کرد که تشخیص چهره همه آب نبات های خوش طعم و گل های رز خوشبو نیست. برخی از الگوریتم‌های تشخیص چهره مبتنی بر هوش مصنوعی کار زشتی را انجام دادند و توانستند افراد را با توجه به نژادشان تشخیص دهند. بسیاری از مسائل نگران‌کننده و آشکار ظالمانه، از جمله سوگیری‌های ذاتی مرتبط با جنسیت و عوامل دیگر، به وجود آمدند. برای پوشش من در مورد موضوعات اخلاق هوش مصنوعی در زمینه تشخیص چهره، لینک اینجا را ببینید .
نکته کلی این است که یک شانس قوی وجود دارد که هر AI For Good بتواند چمدان های مرتبط با AI For Bad را نیز حمل کند. مواردی وجود دارد که AI For Bad کاملاً بد است، و ویژگی های کمی وجود دارد که نشان می دهد مقدار کمی از AI For Good در داخل وجود دارد. با این حال، در مجموع، معمولاً یک سیستم هوش مصنوعی شباهتی به هوش مصنوعی برای خوب و هوش مصنوعی برای بد دارد . اولی را می‌خواهیم تشویق کنیم، دومی را می‌خواهیم پیشگیری کنیم، محدود کنیم، کاهش دهیم، و وقتی همه چیز شکست خورد، در اسرع وقت آن را بگیریم و از بین ببریم.
ممکن است فکر کنید، بله، همه اینها منطقی است و ما باید هوش مصنوعی را برای هر نوع تعصبات نژادی، تعصبات جنسیتی و هر نوع نابرابری به دقت بررسی کنیم. این اقدام مناسب و کمک به جامعه در اجتناب از بدی ها و به دست آوردن ثمربخش خوبی های هوش مصنوعی خواهد بود.
باور کنید یا نه، عامل دیگری نیز وجود دارد که می‌توان آن را به فهرست چیزهای غافلگیرکننده‌ای که در AI پیچیده شده‌اند اضافه کرد که بسیاری از آن‌ها متوجه نبودند که در خورش‌های متنوع هوش مصنوعی وجود دارد.
گرایش های سیاسی
مطالعات اخیر نشان می‌دهد که سیستم‌های هوش مصنوعی می‌توانند مجموعه‌ای از گرایش‌های سیاسی، نظرات، ترجیحات و سایر ویژگی‌ها و تداعی‌های مبتنی بر سیاسی را در خود جای دهند (هرچند نه از نظر انسانی). این به نوبه خود می تواند بر نحوه عملکرد هوش مصنوعی تأثیر بگذارد، مانند آنچه که هوش مصنوعی بر اساس برنامه ریزی هوش مصنوعی «تصمیم می گیرد».
اگر به صورت آنلاین برای وام درخواست می دهید و از یک سیستم تصمیم گیری الگوریتمی مبتنی بر هوش مصنوعی استفاده می شود، اغلب هیچ سرنخی در مورد اینکه برنامه نویسی هوش مصنوعی از چه چیزی تشکیل شده است ندارید. پس از رد شدن وام، نمی‌توانید مطمئن باشید که هوش مصنوعی از استفاده از نژاد، جنسیت یا عوامل دیگر از این قبیل در انتخاب رد کردن اجتناب کرده است.
همچنین نمی توانید مطمئن باشید که هوش مصنوعی درخواست وام شما را به دلیل تعصبات سیاسی خفه نکرده است.
وقتی می گویم که با این عبارات واضح، با این باور که هوش مصنوعی حساس است، این مفهوم را بیش از حد متورم نکنید. همانطور که در یک لحظه بیشتر اشاره خواهم کرد، ما امروز هوش مصنوعی نداریم. نقطه، نقطه. مهم نیست که چه سرفصل های وحشیانه ای را می بینید، لطفاً بدانید که امروز چیزی نزدیک به هوش مصنوعی نیست. ما حتی نمی دانیم که آیا رسیدن به احساسات با هوش مصنوعی امکان پذیر است یا خیر. همچنین هیچ نشانه ای از زمان وقوع یا اینکه آیا هرگز رخ خواهد داد وجود ندارد.
بازگشت به موضوع در دست.
اکنون که به این میز رسیده‌ام که هوش مصنوعی می‌تواند دارای سوگیری‌های سیاسی باشد، می‌توانیم نگاه دقیق‌تری به چگونگی این اتفاق بیاندازیم و گرایش‌های سیاسی از چه راه‌هایی می‌توانند موذیانه ظاهر شوند.
به غیر از این، اگر این تصور که هوش مصنوعی می تواند تمایلات سیاسی را در خود جای دهد باعث ناراحتی یا شوک وحشتناکی برای شما می شود، آن را با مثال دیگری از سوراخ کردن حجاب بی عیب و نقص هوش مصنوعی مطرح کنید. به نظر می رسد که جامعه تاکنون تصویر برندسازی از هوش مصنوعی را به عنوان ترکیبی از معصومیت بزرگ و هاله بکر بی طرفی و تعادل پذیرفته است.
ما ممکن است این را از انواع دیگر ماشین‌ها منتقل کرده باشیم. به نظر نمی رسد توسترها تعصبات ذاتی بر اساس نژاد، جنسیت و غیره داشته باشند. ما به طور مشابه انتظار نداریم که یک توستر، همانطور که بود، دارای تفکر سیاسی باشد. توستر یک توستر است. این فقط به عنوان یک ماشین تعبیر می شود.
دلیل اینکه دیدگاه توستر وقتی صحبت از هوش مصنوعی به میان می‌آید این است که سیستم هوش مصنوعی به گونه‌ای برنامه‌ریزی شده است که بتواند ظرفیت‌های شناختی مانند را ادامه دهد. به این ترتیب، این دستگاه را در معضل مسائل شناختی مانند تجسم تعصبات و موارد مشابه سوق می دهد. من به شما اطمینان می دهم که به زودی متوجه خواهیم شد که توسترهای مبتنی بر هوش مصنوعی مملو از تعصبات و نگرانی های مشکل ساز هستند.
یک راه مفید برای باز کردن راه به سوی درک اینکه چگونه هوش مصنوعی می‌تواند از نظر سیاسی عجین شود این است که در استفاده از هوش مصنوعی در ظهور خودروهای خودران واقعی مبتنی بر هوش مصنوعی دقت کنید. ما می‌توانیم دو پرنده را با یک سنگ بزنیم و موضوع کلی و فراگیر هوش مصنوعی را که شامل تجسم سیاسی است، بررسی کنیم، و این کار را در زمینه نمونه‌ای انجام دهیم که چگونه این موضوع در خودروهای خودران رخ می‌دهد.
هرچند می‌خواهم توضیح دهم که تلقیح سیاسی هوش مصنوعی یک موضوع مستقل است که شایسته است به آن توجه شود. به اشتباه هوش مصنوعی خودروهای خودران را با ابعاد سیاسی هوش مصنوعی در هم نزنید. تمام هوش مصنوعی از نظر سیاسی دارای امکانات ذاتی خواهند بود و عمق و درجه آن به نحوه طراحی و پیاده سازی هوش مصنوعی بستگی دارد.
پس در اینجا یک سوال قابل توجه وجود دارد که قابل تامل است: هوش مصنوعی چگونه می‌تواند تمایلات سیاسی را در درون خود آغشته کند، و آیا می‌تواند حتی در قلمرو به ظاهر غیرسیاسی هوش مصنوعی که برای خودروهای خودران مبتنی بر هوش مصنوعی در حال ظهور استفاده می‌شود، رخ دهد؟
یک لحظه به من اجازه دهید تا این سوال را که به خودروهای خودران مربوط می شود، باز کنم.
اول، توجه داشته باشید که هیچ راننده انسانی در یک ماشین خودران واقعی دخیل نیست. به خاطر داشته باشید که خودروهای خودران واقعی از طریق سیستم رانندگی هوش مصنوعی هدایت می شوند. نه نیازی به راننده انسان پشت فرمان وجود دارد و نه پیش بینی ای برای رانندگی وسیله نقلیه توسط انسان وجود دارد. برای پوشش گسترده و مداوم من در مورد وسایل نقلیه خودران (AVs) و به خصوص خودروهای خودران، لینک اینجا را ببینید .
مایلم بیشتر توضیح دهم که منظور از خودروهای خودران واقعی چیست.
درک سطوح اتومبیل های خودران
به عنوان یک توضیح، خودروهای خودران واقعی، خودروهایی هستند که هوش مصنوعی خودرو را به طور کامل رانندگی می کند و هیچ کمک انسانی در طول کار رانندگی وجود ندارد.
این وسایل نقلیه بدون راننده سطح 4 و سطح 5 در نظر گرفته می شوند (توضیحات من را در این لینک اینجا ببینید )، در حالی که خودرویی که نیاز به یک راننده انسانی برای مشارکت در رانندگی دارد، معمولاً در سطح 2 یا سطح 3 در نظر گرفته می شود. اشتراک‌گذاری وظیفه رانندگی به‌عنوان نیمه مستقل توصیف می‌شود و معمولاً شامل انواع افزودنی‌های خودکار است که به عنوان ADAS (سیستم‌های کمک راننده پیشرفته) نامیده می‌شوند.
هنوز یک خودروی خودران واقعی در سطح 5 وجود ندارد، که ما هنوز حتی نمی دانیم که آیا امکان دستیابی به آن وجود دارد یا خیر، و نه اینکه چقدر طول می کشد تا به آنجا برسیم.
در همین حال، تلاش‌های سطح 4 به تدریج تلاش می‌کنند تا با انجام آزمایش‌های جاده‌ای عمومی بسیار محدود و انتخابی، کشش را به دست آورند، اگرچه در مورد اینکه آیا این آزمایش باید فی نفسه مجاز باشد (همه ما در یک آزمایش خوکچه هندی زندگی یا مرگ هستیم) اختلاف نظر وجود دارد. برخی مدعی هستند که در بزرگراه ها و معابر ما اتفاق می افتد، پوشش من را در این لینک اینجا ببینید ).
از آنجایی که خودروهای نیمه خودران به یک راننده انسانی نیاز دارند، استفاده از آن نوع خودروها تفاوت قابل توجهی با رانندگی با وسایل نقلیه معمولی نخواهد داشت، بنابراین به خودی خود چیز جدیدی برای پرداختن به آنها در این موضوع وجود ندارد (البته، همانطور که خواهید دید در یک لحظه، نکات بعدی به طور کلی قابل اجرا هستند).
برای خودروهای نیمه خودران، مهم است که عموم مردم باید در مورد یک جنبه آزاردهنده که اخیراً به وجود آمده است، هشدار داده شود، یعنی علیرغم آن دسته از رانندگان انسانی که مدام ویدیوهایی از خوابیدن خود بر روی فرمان خودروهای سطح 2 یا 3 منتشر می کنند. ، همه ما باید از گمراه شدن در این باور که راننده می تواند در حین رانندگی با خودروی نیمه خودران توجه او را از کار رانندگی دور کند اجتناب کنیم.
شما مسئول اقدامات رانندگی وسیله نقلیه هستید، صرف نظر از اینکه چه مقدار اتوماسیون ممکن است در سطح 2 یا سطح 3 پرتاب شود.
ماشین های خودران و گرایش های سیاسی تعبیه شده با هوش مصنوعی
برای وسایل نقلیه خودران واقعی سطح 4 و سطح 5، راننده انسانی در کار رانندگی درگیر نخواهد بود.
همه سرنشینان مسافر خواهند بود.
هوش مصنوعی رانندگی را انجام می دهد.
یکی از جنبه هایی که باید فوراً مورد بحث قرار گیرد مستلزم این واقعیت است که هوش مصنوعی درگیر در سیستم های رانندگی هوش مصنوعی امروزی حساس نیست. به عبارت دیگر، هوش مصنوعی در مجموع مجموعه ای از برنامه نویسی و الگوریتم های مبتنی بر رایانه است و مطمئناً نمی تواند به همان شیوه ای که انسان ها می توانند استدلال کند.
چرا این تاکید بیشتر در مورد حساس نبودن هوش مصنوعی است؟
زیرا می‌خواهم تأکید کنم که هنگام بحث درباره نقش سیستم رانندگی هوش مصنوعی، ویژگی‌های انسانی را به هوش مصنوعی نسبت نمی‌دهم. لطفاً توجه داشته باشید که این روزها یک گرایش مداوم و خطرناک برای انسان‌سازی هوش مصنوعی وجود دارد. در اصل، با وجود این واقعیت غیرقابل انکار و غیرقابل بحث که هنوز چنین هوش مصنوعی وجود ندارد، مردم احساساتی شبیه به انسان را به هوش مصنوعی امروزی نسبت می دهند.
با این شفاف سازی، می توانید تصور کنید که سیستم رانندگی هوش مصنوعی به طور بومی به نوعی در مورد جنبه های رانندگی "دانست". رانندگی و هر آنچه که مستلزم آن است باید به عنوان بخشی از سخت افزار و نرم افزار ماشین خودران برنامه ریزی شود.
بیایید به جنبه های بی شماری که در مورد این موضوع بازی می کنند شیرجه بزنیم.
اول، مهم است که بدانیم همه خودروهای خودران با هوش مصنوعی یکسان نیستند. هر خودروساز و شرکت فناوری خودران رویکرد خود را برای ابداع خودروهای خودران در پیش گرفته است. به این ترتیب، اظهار نظر گسترده در مورد اینکه سیستم های رانندگی هوش مصنوعی چه کاری انجام خواهند داد یا انجام نمی دهند، دشوار است.
علاوه بر این، هر زمان که گفته می شود یک سیستم رانندگی هوش مصنوعی کار خاصی را انجام نمی دهد، می تواند بعداً توسط توسعه دهندگانی که در واقع کامپیوتر را برای انجام آن کار برنامه ریزی می کنند، پیشی گیرد. گام به گام، سیستم های رانندگی هوش مصنوعی به تدریج در حال بهبود و توسعه هستند. محدودیت موجود امروز ممکن است دیگر در تکرار یا نسخه بعدی سیستم وجود نداشته باشد.
من اعتماد دارم که اخطارهای زیادی را برای زیربنای آنچه می خواهم بیان کنم ارائه می دهد.
ما اکنون آماده هستیم تا به معضل نهفته در سیاست هوش مصنوعی بپردازیم.
به طور خلاصه جنبه‌های خودروی خودران را کنار بگذارید و اجازه دهید ابتدا موضوع هوش مصنوعی را بررسی کنیم که چگونه تمایلات سیاسی را در خود جای داده است. ساده ترین راه برای دستیابی به هوش مصنوعی از نظر سیاسی، اقدامات توسعه دهندگان هوش مصنوعی است که نرم افزار هوش مصنوعی را می سازند. به عنوان انسان، آنها می توانند تمایلات سیاسی شخصی خود را به آنچه که نرم افزار برای انجام آن برنامه ریزی می کنند، منتقل کنند.
زمانی که سیستم‌های هوش مصنوعی برای اولین بار شروع به نمایش تعصب‌های نژادی و جنسیتی کردند، اعتراض بزرگی به وجود آمد که این باید در نتیجه توسعه‌دهندگان هوش مصنوعی باشد که آن سیستم‌ها را ابداع کردند. اتهاماتی مبنی بر اینکه این اقدامی هدفمند از سوی توسعه دهندگان هوش مصنوعی بود، وجود داشت. با این حال، برخی دیگر معتقد بودند که توسعه دهندگان هوش مصنوعی فاقد تنوع هستند و بنابراین آنها با بی دقتی یا بی فکری اجازه دادند تعصبات موجود خود را به تلاش های برنامه نویسی هوش مصنوعی آنها منتقل کنند.
برای بسیاری از تیم‌های هوش مصنوعی، این جرقه آن‌ها را برانگیخت تا از اطمینان از تنوع در میان توسعه‌دهندگان همکارشان آگاه شوند، از جمله زمانی که اعضای جدید به گروه‌های برنامه‌نویسی اضافه می‌شوند. علاوه بر این، دوره های آموزشی آموزشی ویژه ای برای افزایش آگاهی از تنوع برای توسعه دهندگان هوش مصنوعی ایجاد شد. حتی روش‌های توسعه هوش مصنوعی وجود دارد که جنبه‌های گوناگونی را در بر می‌گیرد تا پروژه‌های هوش مصنوعی را به صراحت هدایت کند تا مراقب تعصبات و نابرابری‌ها در سیستم‌هایشان باشند.
اگرچه تقریباً هیچ کس هنوز از نوع تعصبات سیاسی تعبیه شده برای هوش مصنوعی آگاه نیست، اما احتمال این وجود دارد که در نهایت برجسته شود و غوغاهای صوتی منجر شود. یک بار دیگر، توسعه دهندگان هوش مصنوعی مورد بررسی دقیق قرار خواهند گرفت. شاید برخی عمداً تمایلات سیاسی خود را القا می کنند، در حالی که برخی دیگر ممکن است بدون اینکه متوجه باشند این کار را انجام می دهند.
به جرأت می‌توانم بگویم که تمرکز بر این فرض که توسعه‌دهندگان هوش مصنوعی تنها منبع معرفی سوگیری‌ها در هوش مصنوعی هستند، کلیت این که سوگیری‌های هوش مصنوعی از کجا ناشی می‌شوند را نادیده می‌گیرد. آگاهی تدریجی این بوده است که استفاده از یادگیری ماشینی (ML) و یادگیری عمیق (DL) کمک قابل توجهی به جنبه‌های سوگیری داخلی هوش مصنوعی نیز شده است.
یادگیری ماشینی و یادگیری عمیق تکنیک ها و فناوری های تطبیق الگوی محاسباتی هستند.
داده‌هایی را که می‌خواهید به ML/DL وارد کنید جمع‌آوری می‌کنید، که از نظر محاسباتی به دنبال یافتن الگوهای ریاضی در مجموعه داده‌های ارائه‌شده است. بر اساس آن الگوهای محاسبه شده، ML/DL مورد استفاده قرار می گیرد، مانند توانایی تشخیص چهره. برای تشخیص چهره، ممکن است مجموعه‌ای از عکس‌های افراد را تغذیه کنیم، و ML/DL ویژگی‌های قابل‌توجهی را که چهره‌ها را قابل تشخیص می‌کند، مانند شکل و اندازه بینی، شکل و اندازه دهان و لب‌ها محاسبه می‌کند. ، شکل و اندازه پیشانی و غیره.
به نظر می رسد این رویکرد محاسباتی فراتر از هر نوع تأثیر سوگیری باشد. همه اینها فقط محاسبات است.
آها، اما به یاد داشته باشید که ما تصاویر (یا هر چیز دیگری) را به عنوان بخشی از "آموزش" یا تطبیق الگوی محاسباتی به ML/DL وارد می کنیم. برای تشخیص چهره، اگر بخواهیم عمدتاً تصاویری را که افراد از یک نژاد خاص را نشان می‌دهند تغذیه کنیم، احتمال این وجود دارد که تطبیق الگوی محاسباتی به سمت آن جنبه‌های صورت پیش برود. بعداً، با فرض اینکه این سیستم تشخیص چهره را به طور گسترده مورد استفاده قرار دهیم، آنهایی که از آن استفاده می کردند و از نژاد متفاوتی بودند ممکن است از نظر ریاضی کمتر "تشخیص داده شوند" زیرا الگوهای ML/DL در اطراف مسابقه ای شکل می گیرند که عمدتاً در تمرین یافت می شود. تنظیم.
بنابراین، شما به وضوح می توانید ببینید که چگونه رویکرد ریاضی "بی طرفانه" ML/DL می تواند منحرف شود (راه های دیگری نیز وجود دارد، اما من فقط به این مورد بزرگ در اینجا اشاره می کنم). آیا توسعه دهندگان هوش مصنوعی عمدا مجموعه داده ای ایجاد کردند که از نظر نژادی نامتعادل بود؟ من پیشنهاد می کنم که این به ندرت یک عمل عمدی است، اگرچه عدم آگاهی از اینکه آنها این کار را انجام داده اند هنوز بهانه کافی نیست.
امروزه، یک فشار جدی به سمت تلاش برای ترغیب افرادی که از ML/DL استفاده می‌کنند، در مورد اینکه از چه داده‌هایی برای آموزش استفاده می‌کنند و چه نتایجی به همراه دارد، متفکرتر باشند. متأسفانه، همه وارد گروه ML/DL شده‌اند و بسیاری از این تازه‌کارها یا شب‌هایی که ظاهر ML/DL را گرفته‌اند، این کار را بدون آگاهی از تعصبات انجام می‌دهند. احتمالاً بازیگران بدی نیز وجود دارند که ممکن است عمداً این کار را انجام دهند، اگرچه امیدواریم که تعداد آنها کم باشد.
من اطمینان دارم که موارد فوق شما را در جنبه‌های اخلاق هوش مصنوعی که شامل القای سوگیری‌ها در هوش مصنوعی امروزی است، به‌روز کرده است.
ادامه دهید و کل شبنگ را تکرار کنید، و مفهوم عمومی سوگیری ها را با نشانه های خاص گرایش های سیاسی جایگزین کنید. قبلاً اشاره کردم که خود توسعه دهندگان هوش مصنوعی ممکن است آشکارا یا سهواً تمایلات سیاسی خود را به کاری که هوش مصنوعی برنامه ریزی شده انجام می دهد منتقل کنند. جنبه دیگری که من نیز مطرح کردم این است که برای استفاده از یادگیری ماشینی و یادگیری عمیق، امکان انتخاب داده های آموزشی وجود دارد که ممکن است به طور عمدی یا تصادفی الگوهای متناسب با یک بعد سیاسی خاص را منتقل کنند.
خب، من کمی روی این ستون کار می‌کنم (اوه، TLDR، برخی به سختی می‌گویند)، بنابراین قصد دارم به طور خلاصه مثالی از اینکه چگونه هوش مصنوعی برای یک خودروی خودران مبتنی بر هوش مصنوعی ممکن است به این ستون‌ها کشیده شود را ترسیم کنم. انواع کرم‌چاله‌های متمایل به سیاسی (برای پوشش گسترده من از چنین موضوعاتی، در بسیاری از پست‌های ستون من، به پیوند اینجا مراجعه کنید ).
یکی از مسائل بالقوه حقوقی شناخته شده و اغلب مورد بحث در مورد خودروهای خودران هوش مصنوعی مربوط به استفاده از تاکسی های ربات است و اینکه چه کسی به این گزینه جدید تحرک به عنوان یک سرویس دسترسی خواهد داشت. نگرانی‌ها این است که فقط افراد ثروتمند بتوانند از تاکسی‌های ربات استفاده کنند و در نتیجه آنهایی که در رده‌های پایین‌تر قرار دارند از عصر نوظهور خودروهای بدون راننده کنار گذاشته می‌شوند (گزارش عمیق در این مورد را در لینک اینجا ببینید. ).
پیچ و تاب دیگری از آن تردید وجود دارد.
تصور کنید که اتومبیل های خودران در یک شهر پرسه می زنند و منتظر درخواست سواری هستند. درخواستی می آید و یک خودروی خودران تاکسی ربات در همان حوالی برای سوار کردن سوار حرکت می کند. سوار نشان می دهد که می خواهند به کجا بروند و سیستم رانندگی هوش مصنوعی مسیری را برای رسیدن به آنجا ترسیم می کند. سیستم رانندگی هوش مصنوعی سپس اقدام به هدایت وسیله نقلیه خودران به مقصد مورد نظر می کند.
همه اینها خوب به نظر می رسد.
در اینجا یک ترس هشیار کننده است که بیان شده است.
فرض کنید سیستم رانندگی هوش مصنوعی مسیری را ابداع می کند که از محله های تحت ستم بیشتر جلوگیری کند. ممکن است فرض کنید که ترسیم ناوبری فقط بر اساس مسیر بهینه است، مانند کمترین فاصله، یا شاید کوتاه‌ترین زمان. شاید شایدم نه.
عوامل دیگر می تواند احتمال عبور خودروی خودران از مناطقی باشد که ممکن است به عنوان مناطق جرم خیز محاسبه شود. ممکن است خطر برای وسیله نقلیه خودران و مسافران در نظر گرفته شود که کدام مسیر را باید طی کرد.
این بحث وجود دارد که اتومبیل های خودران تقریباً همیشه به طور جدایی ناپذیری از جوامع فقیرتر یا تحت ستم دوری می کنند. به نظر می رسد افرادی که سوار ماشین های خودران می شوند هرگز متوجه نمی شوند که چنین مکان هایی در شهرها یا شهرستان هایشان وجود دارد. این به نوبه خود احتمالاً آنها را از نیازهای چنین جوامعی بی خبر می کند. علاوه بر این، کسانی که در آن مناطق زندگی می کنند به ندرت ممکن است فرصت استفاده از ماشین خودران را پیدا کنند، حتی اگر مقرون به صرفه باشد. هیچ تاکسی رباتی در میان آنها پرسه نمی زند، زیرا بر اساس محاسبات خود را خارج از آن مناطق نگه داشته اند.
آیا این سوگیری به دلیل برنامه‌ریزی عمدی هوش مصنوعی توسط توسعه‌دهندگان ایجاد می‌شود؟
می تواند باشد، اگرچه لزوماً اینطور نیست.
شاید این سوگیری از استفاده از یادگیری ماشینی و یادگیری عمیق ناشی شود؟
مطمئناً این یک احتمال در نظر گرفته شده است.
سیستم رانندگی هوش مصنوعی ممکن است مبتنی بر ML/DL باشد که از داده‌ها برای آموزش در مورد اینکه در هنگام ترسیم یک مسیر کجا باید ادامه داد، استفاده می‌کرد. اگر آن داده ها حول اجتناب از مناطق خاص شکل می گرفت، ML/DL احتمالاً چنین الگویی را تشخیص می داد و با آن پیش می رفت. با گذشت زمان، با فرض اینکه چنین داده‌هایی با خروج خودروهای خودران بیشتر جمع‌آوری می‌شوند، داده‌هایی که متعاقباً برای به‌روزرسانی و نگهداری استفاده می‌شوند همان الگوهای ساختگی را بیشتر تقویت می‌کنند.
می توان گفت که الگوها با استفاده از الگوی قبلی به طور مکرر در جای خود ترکیب می شوند، نوعی گلوله برفی یا اثر همیشه مارپیچ.
در یک روش صحبت کردن، می‌توانید اینطور تفسیر کنید که این تعصب ظاهری در مورد اینکه کجا باید رانندگی کرد، نمونه‌ای از این است که چگونه یک گرایش بالقوه نهفته در هوش مصنوعی می‌تواند به وجود بیاید. یک چشم انداز این است که اجازه دهیم هوش مصنوعی در این تمایل بی وقفه ادامه دهد. یکی دیگر از این موارد این است که هوش مصنوعی را بازبینی کنید تا عمداً به سمت مناطقی برود که با الگوی خارج از محدوده مطابقت داشتند، که یک بار دیگر می توانید ادعا کنید که احتمالاً یک وضعیت سیاسی متمایل به هوش مصنوعی است.
در مجموع، هوش مصنوعی یا تمایلی به گرایش سیاسی از خود نشان می‌دهد یا دست‌کم چنین تصور می‌شود، بدون توجه به اینکه آیا شباهتی به سیاست چیزها داشته باشد (که از نظر احساسی چنین نیست).
نتیجه
از این نوع مثال ها زیاد است که می توان مطرح کرد.
من با زمینه ماشین خودران می مانم و یک مثال سریع دیگر برای شما می زنم. فرض کنید یک سواری درخواست بالابر توسط یک تاکسی ربات خودران با هوش مصنوعی می کند و این کار را انجام می دهد تا به یک تجمع سیاسی که در دادگاه مرکز شهر برگزار می شود برسد. سیستم رانندگی هوش مصنوعی از بردن سوارکار به آنجا امتناع می کند.
چرا؟
تصور کنید که داده های قبلی جمع آوری شده در مورد راهپیمایی های سیاسی به عنوان نقطه مقصد، نشان می داد که خودروهای خودران درگیر غرغرهای ترافیکی می شوند. فرض کنید این بدان معناست که خودروهای خودران کمتر قادر به کسب درآمد از سواران هستند، به دلیل زمان انتظار طولانی در ترافیک و دریافت نرخ کمتری برای آن زمان‌های انتظار. یک الگوریتم هوش مصنوعی مانند استفاده از ML/DL ممکن است از نظر محاسباتی تعیین کند که رفتن به تجمعات سیاسی یک انتخاب پولساز است. بنابراین، زمانی که درخواست روبو تاکسی برای رفتن به یک تجمع سیاسی مطرح می شود، این درخواست رد می شود.
من فکر می کنم می توانید ببینید که چگونه ممکن است این یک انتخاب با انگیزه سیاسی تلقی شود. اگرچه هوش مصنوعی ممکن است مستقیماً از هیچ نوع انگیزه سیاسی به هیچ وجه استفاده نکند، در هر صورت به نظر می رسد که در حال انجام یک انتخاب سیاسی است.
شما می توانید با قیمت پایین خود شرط بندی کنید که ما به زودی با واکنش سیاسی در مورد تمایلات سیاسی هوش مصنوعی روبرو خواهیم شد. کلماتم را نمره گذاری کن!
آریستوفان، شاعر و نمایشنامه نویس معروف یونانی، در صحبت از کلمات، ادعا کرد که زیر هر سنگی یک سیاستمدار نهفته است. در دنیای امروز، در هر سیستم هوش مصنوعی، شانس غیرقابل انکاری برای گرایش سیاسی نهفته در کمین وجود دارد، خواه از آن اطلاع داشته باشید یا ندانید.
بهتر است شروع به برگرداندن آن سنگ ها کنید.

source

توسط bookheart

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد.