Süni intellektə necə diqqətlə yanaşmaq, qərəzli məlumat dəstlərini necə azaldır

Qərəzli Datasets və Etik AI

Süni intellektlə işləyən həllərin effektiv olması üçün məlumat dəstləri lazımdır. Və bu məlumat dəstlərinin yaradılması sistematik səviyyədə gizli qərəz problemi ilə doludur. Bütün insanlar qərəzlərdən əziyyət çəkirlər (həm şüurlu, həm də şüursuz). Qərəzlər istənilən formada ola bilər: coğrafi, linqvistik, sosial-iqtisadi, cinsiyyətçi və irqçi. Və bu sistematik qərəzlər məlumatlara çevrilir və nəticədə qərəzləri davam etdirən və böyüdən AI məhsulları ilə nəticələnə bilər. Təşkilatların məlumat dəstlərinə daxil olan qərəzliyi azaltmaq üçün diqqətli bir yanaşmaya ehtiyacı var.

Qərəz Problemini Göstərən Nümunələr

O dövrdə çoxlu mənfi mətbuat toplayan bu məlumat toplusunun qərəzliliyinin diqqətəlayiq nümunəsi, kişi namizədləri qadınlardan üstün tutan CV oxuma həlli idi. Bunun səbəbi, işə götürmə vasitəsinin məlumat dəstləri, müraciət edənlərin əksəriyyətinin kişilər olduğu son onillikdəki CV -lərdən istifadə etməklə hazırlanmışdır. Məlumatlar qərəzli idi və nəticələr bu qərəzliyi əks etdirirdi. 

Geniş yayılmış başqa bir misal: İllik Google I/O tərtibatçı konfransında Google insanlara dəri, saç və dırnaqları ilə bağlı problemlərlə bağlı nə baş verdiyini anlamağa kömək edən süni intellektlə işləyən dermatoloji yardım vasitəsinin önizləməsini paylaşdı. Dermatoloq köməkçisi süni intellektin səhiyyəyə kömək etmək üçün necə inkişaf etdiyini vurğulayır, lakin o, eyni zamanda bu vasitənin rəngli insanlar üçün adekvat olmadığına dair tənqidlərdən sonra süni intellektə daxil olmaq potensialını vurğulayır.

Google aləti elan edərkən şirkət qeyd etdi:

Hər kəs üçün hazırladığımızdan əmin olmaq üçün modelimiz yaş, cins, irq və dəri tipləri kimi faktorları nəzərə alır – solğun dəridən qaralmayan dəridən nadir hallarda yanan qəhvəyi dəriyə qədər.

Google, ümumi dəri xəstəliklərinə cavab tapmaq üçün süni intellektdən istifadə edir

Lakin Vice-də bir məqalədə deyilir ki, Google inklüziv məlumat dəstindən istifadə edə bilmədi:

Tapşırığı yerinə yetirmək üçün tədqiqatçılar iki əyalətdə yerləşən 64,837 xəstənin 12,399 görüntüsündən ibarət bir təlim məlumat toplusundan istifadə etdilər. Ancaq təsvir edilən minlərlə dəri xəstəliyindən yalnız 3.5 faizi Fitzpatrick dəri tipləri V və VI olan xəstələrdən gəldi - müvafiq olaraq qəhvəyi dəri və tünd qəhvəyi və ya qara dəri olan xəstələr. Araşdırmaya görə, verilənlər bazasının 90 faizi açıq dərili, daha qaranlıq ağ və ya açıq qəhvəyi dərili insanlardan ibarət idi. Qərəzli seçmə nəticəsində dermatoloqlar deyirlər ki, tətbiq ağdərili olmayan insanlara həddindən artıq və ya az diaqnoz qoya bilər.

Köməkçi, Google -un Yeni Dermatoloji Tətbiqi Tünd Dərili İnsanlar üçün Dizayn Edilməyib

Google, rəsmi olaraq buraxmazdan əvvəl aləti təkmilləşdirəcəyini söyləyərək cavab verdi:

Süni intellektlə işləyən dermatoloji yardım vasitəmiz üç ildən çox davam edən araşdırmanın nəticəsidir. İşimiz Təbiət Təbabətində nümayiş olunduğundan, minlərlə insan tərəfindən bağışlanan məlumatları və milyonlarla daha çox seçilmiş dəri ilə bağlı şəkilləri özündə birləşdirən əlavə məlumat dəstlərinin birləşdirilməsi ilə texnologiyamızı inkişaf etdirməyə və təkmilləşdirməyə davam etdik.

Google, ümumi dəri xəstəliklərinə cavab tapmaq üçün süni intellektdən istifadə edir

Süni intellekt və maşın öyrənmə proqramlarının bu qərəzləri düzəldə biləcəyinə ümid etdiyimiz qədər, reallıq qalır: onlar yalnız Ağıllı çünki onların məlumat dəstləri təmizdir. Köhnə proqramlaşdırma deyiminə bir yeniləmədə zibil daxil/zibil çölə, Süni intellekt həlləri yalnız başlanğıcdan onların məlumat dəstlərinin keyfiyyəti qədər güclüdür. Proqramçılar tərəfindən düzəliş edilmədikdə, bu məlumat dəstləri özlərini düzəltmək üçün heç bir təcrübəyə malik deyillər - çünki başqa istinad çərçivələri yoxdur.

Məlumat dəstlərinin məsuliyyətlə qurulması hər şeyin əsasını təşkil edir etik süni intellekt. Və həllin mərkəzində insanlar dayanır. 

Zehinli AI Etik AI -dir

Qərəz boşluqda baş vermir. Qeyri-etik və ya qərəzli məlumat dəstləri inkişaf mərhələsində yanlış yanaşmadan irəli gəlir. Qərəzli səhvlərlə mübarizə aparmağın yolu, sənayedə bir çoxunun Mindful AI adlandırdığı məsuliyyətli, insan mərkəzli bir yanaşma qəbul etməkdir. Mindful AI üç kritik komponentə malikdir:

1. Zehinli AI insan mərkəzlidir

AI layihəsinin başlanğıcından başlayaraq, planlaşdırma mərhələlərində insanların ehtiyacları hər qərarın mərkəzində olmalıdır. Və bu, yalnız bir alt qrup deyil, bütün insanlar deməkdir. Buna görə də tərtibatçılar süni intellekt tətbiqlərini inklüziv və qərəzsiz olmağa öyrətmək üçün qlobal miqyasda əsaslanan müxtəlif qruplara etibar etməlidirlər.

Qlobal, müxtəlif komandanın məlumat dəstlərinin kraudsorsingi qərəzlərin erkən aşkarlanmasını və süzülməsini təmin edir. Fərqli etnik mənsubiyyətlərə, yaş qruplarına, cinslərə, təhsil səviyyələrinə, sosial-iqtisadi mənşələrə və yerlərə sahib olanlar bir dəyər toplusunu digərindən üstün tutan məlumat dəstlərini daha asanlıqla aşkar edə bilər və beləliklə, gözlənilməz qərəzliyi aradan qaldıra bilər.

Səs proqramlarına nəzər salın. Diqqətli AI yanaşmasını tətbiq edərkən və qlobal istedad fondunun gücündən istifadə edərkən tərtibatçılar məlumat dəstlərində müxtəlif dialektlər və vurğular kimi linqvistik elementləri nəzərə ala bilərlər.

Əvvəldən insan mərkəzli dizayn çərçivəsinin yaradılması çox vacibdir. Yaradılmış, seçilmiş və etiketlənmiş məlumatların son istifadəçilərin gözləntilərinə cavab verməsini təmin etmək üçün uzun bir yol gedir. Lakin bütün məhsulun inkişaf dövrü boyunca insanları dövrədə saxlamaq da vacibdir. 

Döngüdəki insanlar maşınlara hər bir xüsusi auditoriya üçün daha yaxşı AI təcrübəsi yaratmağa kömək edə bilər. Pactera EDGE-də qlobal miqyasda yerləşən süni intellekt məlumatları layihə qruplarımız müxtəlif mədəniyyətlərin və kontekstlərin etibarlı AI təlim məlumatlarının toplanmasına və kurasiyasına necə təsir göstərə biləcəyini başa düşürlər. Problemləri qeyd etmək, onlara nəzarət etmək və süni intellektə əsaslanan həll işə başlamazdan əvvəl onları düzəltmək üçün lazım olan alətlərə malikdirlər.

İnsan-in-the-loop AI insanların güclü tərəflərini və onların müxtəlif mənşəyini maşınların sürətli hesablama gücü ilə birləşdirən layihə “təhlükəsizlik şəbəkəsidir”. Bu insan və AI əməkdaşlığı proqramların əvvəlindən qurulmalıdır ki, qərəzli məlumatlar layihədə əsas yaratmasın. 

2. Zehinli AI məsuliyyət daşıyır

Məsuliyyətli olmaq süni intellekt sistemlərinin qərəzsiz olmasını və onların etikaya əsaslanmasını təmin etməkdir. Bu, məlumatların necə, niyə və harada yaradıldığını, AI sistemləri tərəfindən necə sintez edildiyini və qərar qəbul edərkən necə istifadə edildiyini, etik təsirləri ola biləcək qərarları nəzərə almaqdan ibarətdir. Biznesin bunu etməsinin bir yolu, daha əhatəli və daha az qərəzli olmaq üçün az təmsil olunan icmalarla işləməkdir. Məlumat annotasiyaları sahəsində yeni tədqiqat, hər bir annotatorun etiketlərinə ayrıca alt tapşırıq kimi baxan çox annotatorlu çox vəzifəli modelin, annotator fikir ayrılıqlarının az təqdimat və ya təqdimatlar nəticəsində yarana biləcəyi tipik əsas həqiqət metodlarına xas olan potensial problemləri azaltmağa necə kömək edə biləcəyini vurğulayır. tək bir həqiqətə şərhlərin məcmusunda nəzərə alınmır. 

3. Etibarlı

Etibarlılıq bir işin AI modelinin necə öyrədildiyi, necə işlədiyi və nəticələri niyə tövsiyə etdikləri ilə bağlı şəffaf və izah edilə bilən olmasından irəli gəlir. Müştərilərinə yerli dildə kritik nüanslara və bir ölkədən digərinə AI həllinin etibarlılığını yarada və ya poza bilən istifadəçi təcrübələrinə hörmət edərək, öz süni intellekt tətbiqlərini daha əhatəli və fərdiləşdirməyə imkan yaratmaq üçün biznesin süni intellektin lokallaşdırılması ilə bağlı təcrübə lazımdır. . Məsələn, bir iş, səs əsaslı tətbiqlərdə dillər, ləhcələr və vurğular da daxil olmaqla, fərdiləşdirilmiş və lokal kontekstlər üçün tətbiqlərini tərtib etməlidir. Beləliklə, bir tətbiq İngilis dilindən, az təmsil olunan dillərə qədər hər dilə eyni səviyyəli səs təcrübəsi inkişaf etdirir.

Ədalət və Müxtəliflik

Nəhayət, diqqətli süni intellekt həllərin həll bazara çıxmazdan əvvəl müəyyən nəticələrin nəticələrinin və təsirinin izlənildiyi və qiymətləndirildiyi ədalətli və müxtəlif məlumat dəstləri üzərində qurulmasını təmin edir. Diqqətli olmaqla və həllin inkişafının hər bir hissəsinə insanları daxil etməklə, biz AI modellərinin təmiz, minimal qərəzli və mümkün qədər etik olmasını təmin etməyə kömək edirik.

Siz nə düşünürsünüz?

Bu sayt spam azaldılması üçün Akismet istifadə edir. Yorumunuzun necə işləndiyini öyrənin.