چرا نیویورک هنگام استخدام با هوش مصنوعی دست و پنجه نرم می کند؟

شورای شهر نیویورک در 10 نوامبر 2021 با 38 رای موافق در برابر 4 رای به تصویب لایحه ای داد که بر اساس آن ارائه دهندگان استخدام باید ممیزی سالانه سوگیری هوش مصنوعی (AI) را در فرآیندها و ابزارهای شهر انجام دهند. شرکت‌هایی که از منابع هوش مصنوعی استفاده می‌کنند، مسئول نشان دادن نحوه استفاده از فناوری در فرآیند استخدام به متقاضیان کار خواهند بود و باید به متقاضیان گزینه‌هایی را برای رویکردهای جایگزین اجازه دهند، به‌جای آن شخص درخواست‌هایشان را پردازش کند. برای اولین بار، شهری به اندازه نیویورک برای استفاده ناشناخته یا مغرضانه از هوش مصنوعی جریمه اعمال می کند و برای کارفرمایان و تامین کنندگان متخلف تا 1500 دلار جریمه می گیرد. این قانون که بدون امضای شهردار دبلاسیو لازم‌الاجرا می‌شود، اکنون باید در سال 2023 لازم‌الاجرا شود. این نقطه عطفی در راه مبارزه دولت با استفاده از هوش مصنوعی در فرآیندهای استخدام است و نشان می‌دهد که در شهرهای دیگر چه کاری می‌توانند برای مبارزه انجام دهند. تعصب و تبعیض ایجاد شده توسط هوش مصنوعی.

هنگام استخدام از هوش مصنوعی استفاده کنید

در سال‌های اخیر، شرکت‌ها اجرای هوش مصنوعی را در فرآیند استخدام خود تسریع کرده‌اند. همانطور که اقتصاد از اثرات مخرب COVID-19 و استعفای بزرگ متعاقب آن بهبود می یابد، فناوری های نوظهور مانند هوش مصنوعی به شرکت ها کمک کرده است تا استخدام انبوه را ساده کنند و در عین حال برخی از هزینه های عملیاتی را کاهش دهند. اما در عجله برای معرفی ابزارهای فناوری جدید، متخصصان استخدام به اندازه کافی به پیامدهای برنامه ریزی شده و ناخواسته افزایش استفاده از هوش مصنوعی، از جمله تعصبات سیستماتیک که الگوریتم های یادگیری ماشینی می توانند در روش های غربالگری استخدام و استخدام تداوم بخشند، رسیدگی نکرده اند.

در سال ۲۰۱۸، آمازون متوجه شد که نرم‌افزار استخدام هوش مصنوعی آن‌ها رزومه‌هایی را که شامل کلمه «زنان» و رزومه‌های متقاضیان کالج زن بود، کاهش داده است، زیرا این شرکت سابقه زیادی در استخدام مهندسان زن و دانشمندان علوم کامپیوتر نداشته است. یک مطالعه در سال 2018 نشان داد که Face ++ و Microsoft AI، نرم‌افزار تشخیص چهره محبوب که می‌تواند برای تجزیه و تحلیل احساسات نامزدها برای ویژگی‌های مورد نظر مورد استفاده قرار گیرد، نشان داده است که نسبت به همتایان سفیدپوست خود، احساسات منفی بیشتری را به مردان سیاه‌پوست نسبت می‌دهند. این سوگیری‌ها در سیستم‌های خودکار، در صورت آزمایش نشدن، منجر به محرومیت ناموجه از فرصت‌ها برای نامزدهای گروه‌های محروم تاریخی می‌شوند.

با کمک دانشمندان، رهبران صنعت و سازمان‌های جامعه مدنی، رهبری نیویورک در حال اعمال قوانینی در این زمینه است که به شناسایی و کاهش کاستی‌های احتمالی در استفاده از هوش مصنوعی کمک می‌کند. این لایحه می تواند گام مهمی برای مبارزه با سوگیری هوش مصنوعی در اشتغال باشد، اما کارشناسان نسبت به کاستی های مختلف آن نیز محتاط هستند. گروه‌هایی مانند مرکز دموکراسی و فناوری (CDT) نگرانی‌های خود را در مورد طراحی و اجرای ممیزی در مورد تبعیض صرفاً بر اساس نژاد و جنسیت و نه بر اساس متغیرهای دیگر مانند ناتوانی، سن و سایر عوامل ابراز کرده‌اند. CDT همچنین استدلال می‌کند که این قانون فقط در مورد فرآیند استخدام اعمال می‌شود و فضایی را برای استفاده نامعلوم از هوش مصنوعی در تعیین غرامت، برنامه‌ریزی، شرایط کاری و ترفیعات ایجاد می‌کند.

استفاده از ممیزی

CDT همچنین درباره عدم وجود جزئیات در لایحه در مورد نحوه انجام ممیزی های جانبداری ابراز نگرانی کرد. همانطور که در قانون تعریف شده است، حسابرسی سوگیری «یک ارزیابی بی طرفانه توسط یک حسابرس مستقل است. . . [which tests the] جولیا استوجانوویچ از دانشگاه نیویورک خاطرنشان کرد که این الزامات “به راحتی قابل برآورده شدن” خواهد بود؛ به ارائه دهندگان آزادی تفسیر گسترده ای داده می شود، که سپس می تواند به گونه ای تفسیر شود که خطوط نقض اعمال شود.

دب راجی، یکی از همکاران بنیاد موزیلا و لیگ عدالت الگوریتمی و پزشک در دانشگاه کالیفرنیا برکلی. دانشجو، استدلال می‌کند که ممیزی‌های سالانه نباید فرآیندی یک‌باره باشد که تامین‌کنندگان تنها مسئول آن هستند. در عوض، زیرساخت بیشتری را برای اجرای یک سیستم حسابرسی پاسخگوتر ارائه می دهد. این شامل یک هیئت نظارت بر حسابرسی است که می تواند به راستی آزمایی و حمایت از بازیگران شخص ثالث معتبر کمک کند، و یک سیستم گزارش دهی ملی برای شناسایی موارد تبعیض و نقض احتمالی. محقق بروکینگز، الکس انگلر نیز نگرانی های مشابهی را در مورد یکپارچگی الگوریتم های حسابرسی استخدامی مطرح کرد و استدلال کرد که داده ها و اسناد جمع آوری شده توسط حسابرسان نیز باید برای سوگیری احتمالی مورد بازبینی قرار گیرند. چنین ادعاهایی مربوط به قانون نیویورک است که درخواست را به آسیب الگوریتمی شناسایی شده در برنامه های کاری مرتبط می کند.

داده هایی که سیستم های استخدام هوش مصنوعی بر اساس آنها آموزش دیده اند به پیچیدگی برنامه اضافه می شود. علی‌رغم تلاش‌های بازیگران فدرال مانند کمیسیون فرصت‌های شغلی برابر (EEOC) برای شناسایی و کاهش تعصب و تبعیض شخصی در محل کار، آنها همچنان ادامه دارند. بنابراین، حتی اگر ممکن است الگوریتم کمتر از گروه‌های جمعیتی انحراف داشته باشد، متغیرهای بسیاری جمع‌آوری‌شده و استفاده از پراکسی‌های پوشانده شده به عنوان کد پستی همچنان به الگوریتم اجازه می‌دهد تا در مورد نژاد خود و سایر دسته‌های محافظت‌شده با دقت زیادی نتیجه‌گیری کند. به عنوان مثال، در حالی که الگوریتم استخدام آمازون به گونه‌ای برنامه‌ریزی نشده است که عمداً متقاضیان شغل زن را نادیده بگیرد، انتخاب نامزدهای کالج و تجربیات گذشته کافی بود تا نشان دهد آنها مردی غیر از کارمندان قبلی نیستند و در نتیجه تنزل رتبه پیدا کردند.

بهترین شیوه‌های استخدام برای پنهان کردن ویژگی‌هایی که ممکن است در فرآیند استخدام به کارفرما آسیب وارد کند، از جمله نژاد، مذهب، ناتوانی و هویت جنسیتی کارمند آینده، سخت کار کرده است. استفاده از مصاحبه های کور، به ویژه در پیش غربالگری، نمونه ای از راهبردهای عدالت در این فرآیند است. اما با استفاده از هوش مصنوعی در فرآیند استخدام، می‌توان این دستاوردها را با دسترسی کارفرما به عکس‌های در دسترس عموم، گروه‌های وابستگی و فرامتن مرتبط با نامزدها و بررسی آنها معکوس کرد.

ایالت ها و شهرداری های بیشتری از این روند پیروی می کنند

فراتر از نیویورک، سایر ایالت ها و شهرداری ها برای محدود کردن استفاده از هوش مصنوعی در طول فرآیند استخدام اقدام کرده اند. در سال 2019، ایلینویز قانون مصاحبه ویدیویی هوش مصنوعی (HB 2557) را تصویب کرد، که کارفرمایان را ملزم می‌کند که زمان استفاده از هوش مصنوعی را در یک مصاحبه ویدیویی افشا کنند و به متقاضیان اجازه می‌دهد داده‌های خود را حذف کنند. مریلند سپس HB 1202 را تصویب کرد که استفاده از تشخیص چهره در طول مصاحبه های قبل از استخدام را تا زمانی که کارفرما رضایت نامزد را جلب کند ممنوع می کند. لایحه معلق کالیفرنیا، SB 1241، قانون برابری استعدادهای استخدامی رقابتی (TECH)، مشابه لایحه نیویورک است و نیاز به هوش مصنوعی مورد استفاده در استخدام دارد تا از نظر سوگیری به صورت سالانه آزمایش شود. در اوایل ماه جاری، دادستان کل منطقه کلمبیا لایحه مشابهی را به شورای شهر ارسال کرد که بر اساس آن کسب‌وکارها مسئول استفاده از الگوریتم‌های هوش مصنوعی مغرضانه در آموزش، اشتغال، امور مالی و موارد دیگر از طریق ممیزی‌های اجباری خواهند بود.

در حالی که عنوان هفتم قانون حقوق مدنی 1964 به صراحت تبعیض در استخدام را بر اساس نژاد، رنگ، مذهب، ممنوع می کند. sex، ملیت و غیره، کارهای زیادی برای اجرای قانون وجود دارد. در دسامبر 2020، ده سناتور آمریکایی، از جمله سناتور مایکل بنت (D-Colo.)، کوری بوکر (DN.J.) و Sherod Brown (D-Ohio)، نامه ای به جانت دیلن، رئیس EEOC صادر کردند و از کمیسیون خواستند در مورد این موضوع تحقیق کند. سوگیری در استخدام فناوری های مدیریت شده توسط هوش مصنوعی در پاسخ، EEOC در اکتبر 2021 اعلام کرد که ابتکاری را برای مطالعه سوگیری هوش مصنوعی در استخدام و اطمینان از مطابقت این ابزارها با قوانین ضد تبعیض و حقوق مدنی آغاز کرده است.

اگرچه قانون نیویورک اولین قدم به نظر می رسد، بسیاری از پیامدهای بالقوه استفاده از هوش مصنوعی در طول فرآیند استخدام و استخدام حل نشده باقی مانده است. سیاستگذارانی که علاقه مند به ایجاد بر اساس کار نیویورک هستند باید اطمینان حاصل کنند که قوانین حسابرسی بعدی به طور کامل انحرافات در نتایج هوش مصنوعی را بررسی می کند و پتانسیل راه اندازی خودکار ممیزی های شخص ثالث را زمانی که رفتارهای متفاوتی در نظر گرفته می شود بررسی می کند.

---

آمازون یک اهداکننده عمومی و بدون محدودیت به موسسه بروکینگز است. یافته‌ها، تفاسیر و نتیجه‌گیری‌های منتشر شده در این مقاله صرفاً متعلق به نویسنده است و تحت تأثیر اهداء قرار نمی‌گیرد.

https://20khababr.ir
https://afkharebartar.ir
https://akhabarebartar.ir
https://andnews.ir
https://avatefepak.ir
https://baranmajale.ir
https://behtaringam.ir
https://daltek.ir
https://elmitarin.ir
https://fardayeashena.ir
https://forbos.ir
https://foxirani.ir
https://gisoon.ir
https://hodhodirani.ir
https://iranisard.ir
https://kahkashani.ir
https://lasttimes.ir
https://lilaki.ir
https://livejame.ir
https://magirani.ir
https://majaleiranian.ir
https://mervina.ir
https://mineralnews.ir
https://modirezard.ir
https://momon.ir
https://moniseh.ir
https://nationaliran.ir
https://netcrafti.ir
https://news-single.ir
https://newsexpress.ir
https://newslife.ir
https://newsspot.ir
https://newsteen.ir
https://nikmag.ir
https://officemag.ir
https://okaziyon.ir
https://one-news.ir
https://pandamag.ir
https://parsroids.ir
https://patris-fun.ir
https://senatornews.ir
https://seratmag.ir
https://sibala.ir
https://sohanian.ir
https://sosokan.ir
https://tazekhabari.ir
https://technoirani.ir
https://timesirani.ir
https://yamorani.ir
https://yandexkhabari.ir
https://abdoosnews.ir
https://zehnenoandinsh.ir
https://abestanews.ir
https://abtinnews.ir
https://akhbarebartaaar.ir
https://akhbaremaaaa.ir
https://akhbareshomaaa.ir
https://akhshijnews.ir
https://atrinnews.ir
https://atroticnews.ir
https://atshnews.ir
https://bashariatemrooz.ir
https://dastesalamatt.ir
https://dostemansalam.ir
https://elementorsite.ir
https://emrooztafahom.ir
https://ensanedirooooooz.ir
https://etelaresankhabar.ir
https://examplenews.ir
https://fardaalefba.ir
https://gisooyekhabar.ir
https://halohekayatha.ir
https://hashtadonoh.ir
https://hekayatfardayeemaaa.ir
https://honarmandkhabar.ir
https://istgaheshomareyek.ir
https://ketabkhoooon.ir
https://kimyagaaaar.ir
https://markazeakhbar.ir
https://masternewss.ir
https://mohamadrezasite.ir
https://morvarideasia.ir
https://mramins.ir
https://naserinews.ir
https://nasermr.ir
https://newsamins.ir
https://newsatropat.ir
https://newscenterals.ir
https://newsmineral.ir
https://newsouls.ir
https://newspishgamannn.ir
https://newssalam.ir
https://newsshans.ir
https://newsworlds.ir
https://parinews.ir
https://patris-music.ir
https://poshtibannews.ir
https://powernewss.ir
https://recordejadid.ir
https://salamnewws.ir
https://23ncfst.ir/
https://amiran-carpet.ir/
https://armanenergytec.ir/
https://blogenews.ir/
https://blogkhoon.ir/
https://bvfars.ir/
https://charsounews.ir/
https://chsnews.ir/
https://dezfil.ir/
https://dmwebmaster.ir/
https://dota2news.ir/
https://erfanhd.ir/
https://etminan110.ir/
https://faratarazkhabar.ir/
https://farsgardi20.ir/
https://footynews.ir/
https://goto98.ir/
https://ilyarkhabar.ir/
https://ir2khabar.ir/
https://iranalmanac.ir/
https://irandaryafest.ir/
https://khabarehaft.ir/
https://khabarontime.ir/
https://lolsms.ir/
https://maadgig.ir/
https://masoudtb.ir/
https://mp3news.ir/
https://music-ha.ir/
https://nakhlestankhabar.ir/
https://newcharge.ir/
https://news-links.ir/
https://news180.ir/
https://pimn.ir/
https://prmf.ir/
https://pvnews.ir/
https://rejawnews.ir/
https://sahab-co.ir/
https://samanbarg.ir/
https://semanews.ir/
https://shirinonews.ir/
https://soheilesonghor.ir/
https://tacity.ir/
https://taktanews.ir/
https://tarabaranmag.ir/
https://telegram-persian.ir/
https://tfcenter.ir/
https://trika.ir/
https://velninews.ir/
https://vidnaz.ir/
https://wajnews.ir/
https://your-news.ir/
https://zangannews.ir/
https://2016downloadnew.ir/
https://paxsolomusic.ir/
https://daryamedia.ir/
https://andikakhabar.ir/
https://seo-pbn.ir/
https://ghezelwich.ir
https://panaztebtabriz.ir
https://shayna-net.ir
https://kanooneslamshahr.ir
https://raynuts.ir
https://honare2.ir
https://itsama.ir
https://flingpet.ir
https://foreverpro.ir
https://fraeesi.ir
https://gkhabar.ir
https://18amlak.ir
https://pooyesh-khabar.ir
https://matsef.ir
https://photo-land.ir
https://tabarestan118.ir
https://disachain.ir
https://chikaapp.ir
https://mahestan18.ir
https://radyaabkala.ir
https://c-civil.ir
https://saeeed.ir
https://copytops.ir
https://modirsearch.ir
https://shz1music.ir
https://m-khosravi.ir
https://iranhayashi.ir
https://iranian-dress.ir
https://gigblog.ir
https://basitcg.ir
https://mashhadhekmat.ir
https://rahetamin.ir
https://radolyamani.ir
https://bnemati.ir
https://face-wood.ir
https://tourvare.ir
https://centertasisat.ir
https://bidarirafsanjan.ir
https://namahaa.ir
https://30pp.ir
https://script-tabadol-link.ir
https://simayesarbedar.ir
https://pakdashtiha.ir
https://rentacars.ir
https://2019movies.ir
https://ekar24.ir
https://saber-ramezani.ir
https://teb-saharsina.ir