Beth yw Rhagfarn AI?

Mae AI ym mhobman - yn didoli, yn sgorio ac yn awgrymu'n dawel. Mae hynny'n ddefnyddiol… nes ei fod yn gwthio rhai grwpiau ymlaen ac yn gadael eraill ar ôl. Os ydych chi wedi meddwl tybed beth yw rhagfarn AI , pam ei fod yn ymddangos hyd yn oed mewn modelau caboledig, a sut i'w leihau heb waethygu perfformiad, y canllaw hwn yw i chi.

Erthyglau y gallech fod eisiau eu darllen ar ôl yr un hon:

🔗 Beth mae GPT yn ei olygu
Dadansoddiad Saesneg plaen o enw a tharddiad GPT.

🔗 Beth yw AI rhagfynegol
Sut mae modelau rhagfynegol yn rhagweld canlyniadau o ddata hanesyddol a byw.

🔗 Beth yw AI ffynhonnell agored
Diffiniad, manteision allweddol, heriau, trwyddedau ac enghreifftiau o brosiectau.

🔗 Sut i ymgorffori AI yn eich busnes
Map ffordd cam wrth gam, offer, llifau gwaith, a hanfodion rheoli newid.

Diffiniad cyflym: beth yw rhagfarn AI?

Rhagfarn AI yw pan fydd allbynnau system AI yn ffafrio neu'n anfanteisio rhai pobl neu grwpiau yn systematig. Yn aml mae'n deillio o ddata anghytbwys, dewisiadau mesur cul, neu'r cyd-destun ehangach y mae'r system wedi'i hadeiladu a'i defnyddio ynddo. Nid yw rhagfarn bob amser yn faleisus, ond gall gynyddu niwed yn gyflym os na chaiff ei wirio. [1]

Gwahaniaeth ddefnyddiol: rhagfarn yw'r gogwydd mewn gwneud penderfyniadau, tra bod gwahaniaethu yn effaith niweidiol y gall gogwydd ei chynhyrchu yn y byd. Ni allwch chi bob amser gael gwared ar bob rhagfarn, ond rhaid i chi ei reoli fel nad yw'n creu canlyniadau annheg. [2]

Pam mae deall rhagfarn mewn gwirionedd yn eich gwneud chi'n well 💡

Cymeriad rhyfedd, iawn? Ond mae gwybod beth yw rhagfarn AI yn gwneud i chi:

• Gwell wrth ddylunio - byddwch chi'n sylwi ar ragdybiaethau bregus yn gynharach.

• Gwell wrth lywodraethu - byddwch chi'n dogfennu cyfaddawdau yn lle eu chwifio â llaw.

• Gwell mewn sgyrsiau - gydag arweinwyr, rheoleiddwyr, a phobl yr effeithir arnynt.

Hefyd, mae dysgu iaith metrigau a pholisi tegwch yn arbed amser yn ddiweddarach. A dweud y gwir, mae fel prynu map cyn taith ffordd - amherffaith, ond yn llawer gwell na naws. [2]

Mathau o ragfarn AI y byddwch chi'n eu gweld yn y gwyllt mewn gwirionedd 🧭

Mae rhagfarn yn ymddangos ar draws cylch bywyd deallusrwydd artiffisial. Patrymau cyffredin y mae timau'n dod ar eu traws:

• Rhagfarn samplu data - mae rhai grwpiau wedi'u tangynrychioli neu ar goll.

• Rhagfarn labeli - mae labeli hanesyddol yn amgodio rhagfarn neu farnau dynol swnllyd.

• Rhagfarn mesur - dirprwyon nad ydynt yn dal yr hyn rydych chi'n ei werthfawrogi mewn gwirionedd.

• Rhagfarn gwerthuso - mae setiau prawf yn methu poblogaethau neu gyd-destunau penodol.

• Rhagfarn defnyddio - model labordy da a ddefnyddir yn y lleoliad anghywir.

• Rhagfarn systemig a dynol - patrymau cymdeithasol ehangach a dewisiadau tîm yn gollwng i dechnoleg.

Mae model meddyliol defnyddiol gan gyrff safonau yn grwpio rhagfarn i dynol, technegol a systemig ac yn argymell gymdeithasol-dechnegol , nid mân newidiadau model yn unig. [1]

Lle mae rhagfarn yn sleifio yn y biblinell 🔍

1. Fframio problem - diffinio'r targed yn rhy gul ac rydych chi'n eithrio pobl y dylai'r cynnyrch eu gwasanaethu.

2. Ffynonellau data - mae data hanesyddol yn aml yn amgodio anghydraddoldebau'r gorffennol.

3. Dewisiadau nodweddion - gall dirprwyon ar gyfer priodoleddau sensitif ail-greu priodoleddau sensitif.

4. Hyfforddiant - mae amcanion yn optimeiddio ar gyfer cywirdeb cyfartalog, nid ecwiti.

5. Profi - os yw eich set daliadau wedi'i gwyrdroi, mae eich metrigau hefyd.

6. Monitro - gall newidiadau mewn defnyddwyr neu gyd-destun ailgyflwyno problemau.

Mae rheoleiddwyr yn pwysleisio dogfennu risgiau tegwch ar draws y cylch bywyd hwn, nid yn unig ar adeg ffitio model. Mae'n ymarfer sy'n cynnwys pawb. [2]

Sut ydym ni'n mesur tegwch heb fynd mewn cylchoedd? 📏

Nid oes un metrig i reoli pob un ohonyn nhw. Dewiswch yn seiliedig ar eich achos defnydd a'r niwed rydych chi am ei osgoi.

• Cydraddoldeb demograffig - dylai cyfraddau dethol fod yn debyg ar draws grwpiau. Da ar gyfer cwestiynau dyrannu, ond gall wrthdaro â thargedau cywirdeb. [3]

• Odds cyfartal - dylai cyfraddau gwallau fel canlyniadau positif ffug a chanlyniadau positif gwir fod yn debyg. Yn ddefnyddiol pan fydd cost gwallau yn amrywio yn ôl grŵp. [3]

• Calibradu - ar gyfer yr un sgôr, dylai canlyniadau fod yr un mor debygol ar draws grwpiau. Yn ddefnyddiol pan fydd sgoriau'n llywio penderfyniadau dynol. [3]

Mae pecynnau cymorth yn gwneud hyn yn ymarferol trwy gyfrifo bylchau, plotiau a dangosfyrddau fel y gallwch chi roi'r gorau i ddyfalu. [3]

Ffyrdd ymarferol o leihau rhagfarn sy'n gweithio mewn gwirionedd 🛠️

Meddyliwch am liniariadau haenog yn hytrach nag un fwled arian:

• Archwiliadau a chyfoethogi data - nodi bylchau mewn darpariaeth, casglu data mwy diogel lle bo'n gyfreithlon, samplu dogfennau.

• Ailbwysoli ac ailsamplu - addaswch y dosbarthiad hyfforddi i leihau sgiw.

• Cyfyngiadau wrth brosesu - ychwanegu nodau tegwch at yr amcan fel bod y model yn dysgu cyfaddawdau'n uniongyrchol.

• Dad-duedd gwrthwynebol - hyfforddi'r model fel nad yw priodoleddau sensitif yn rhagweladwy o gynrychioliadau mewnol.

• Ôl-brosesu - calibro trothwyon penderfyniad fesul grŵp pan fo'n briodol ac yn gyfreithlon.

• Gwiriadau dynol-yn-y-ddolen - paru modelau â chrynodebau esboniadwy a llwybrau uwchgyfeirio.

Mae llyfrgelloedd ffynhonnell agored fel AIF360 a Fairlearn yn darparu metrigau ac algorithmau lliniaru. Nid hud ydyn nhw, ond byddan nhw'n rhoi man cychwyn systematig i chi. [5][3]

Prawf o'r byd go iawn bod rhagfarn yn bwysig 📸💳🏥

• Dadansoddi wynebau - mae ymchwil a ddyfynnwyd yn eang wedi dogfennu anghydraddoldebau cywirdeb mawr ar draws grwpiau rhyw a math o groen mewn systemau masnachol, gan wthio'r maes tuag at arferion gwerthuso gwell. [4]

• Penderfyniadau pwysig (credyd, cyflogi, tai) - hyd yn oed heb fwriad, gall canlyniadau rhagfarnllyd wrthdaro â thegwch a dyletswyddau gwrth-wahaniaethu. Cyfieithiad: rydych chi'n atebol am effeithiau, nid dim ond cod. [2]

Hanesyn byr o ymarfer: mewn archwiliad sgrinio recriwtio dienw, canfu tîm fylchau yn y galwadau i gof ar gyfer menywod mewn rolau technegol. Camau syml - rhaniadau haenedig gwell, adolygiad nodweddion, a throthwy fesul grŵp - caeodd y rhan fwyaf o'r bwlch gyda chyfaddawd bach o ran cywirdeb. Nid un tric oedd yr allwedd; roedd yn ddolen fesur-lliniaru-monitro ailadroddadwy.

Polisi, cyfraith a llywodraethu: sut olwg sydd ar “dda” 🧾

Nid oes angen i chi fod yn gyfreithiwr, ond mae angen i chi ddylunio er mwyn sicrhau tegwch ac esboniadwyedd:

• Egwyddorion tegwch - gwerthoedd sy'n canolbwyntio ar bobl, tryloywder, a dim gwahaniaethu ar draws y cylch bywyd. [1]

• Diogelu data a chydraddoldeb - lle mae data personol yn gysylltiedig, disgwyliwch ddyletswyddau ynghylch tegwch, cyfyngu at ddiben, a hawliau unigol; gall rheolau sector fod yn berthnasol hefyd. Mapio'ch rhwymedigaethau'n gynnar [2]

• Rheoli risg - defnyddiwch fframweithiau strwythuredig i nodi, mesur a monitro rhagfarn fel rhan o raglenni risg AI ehangach. Ysgrifennwch ef i lawr. Adolygwch ef. Ailadroddwch. [1]

Bach o'r neilltu: nid biwrocratiaeth yn unig yw gwaith papur; dyma sut rydych chi'n profi eich bod chi wedi gwneud y gwaith mewn gwirionedd os bydd unrhyw un yn gofyn.

Tabl cymharu: offer a fframweithiau ar gyfer rheoli rhagfarn AI 🧰📊

Mae pob un o'r rhain yn eich helpu i ateb beth yw rhagfarn AI yn eich cyd-destun trwy roi strwythur, metrigau a geirfa a rennir i chi.

Llif gwaith byr, ychydig yn farnllyd 🧪

1. Nodwch y niwed yr hoffech ei osgoi - niwed dyrannu, anghydraddoldebau cyfradd gwallau, niwed urddas, ac ati.

2. Dewiswch fetrig sy'n cyd-fynd â'r niwed hwnnw - e.e., siawns gyfartal os yw cydraddoldeb gwall yn bwysig. [3]

3. Rhedeg llinellau sylfaen gyda data a model heddiw. Cadwch adroddiad tegwch.

4. Rhowch gynnig ar atebion ffrithiant isel yn gyntaf - rhaniadau data gwell, trothwyo, neu ailbwysoli.

5. Uwchgyfeirio i gyfyngiadau wrth brosesu os oes angen.

6. Ailwerthuso setiau dal allan sy'n cynrychioli defnyddwyr go iawn.

7. Monitro mewn cynhyrchiad - mae newidiadau dosbarthu yn digwydd; dylai dangosfyrddau hefyd.

8. Cyfaddawdau dogfen - mae tegwch yn gyd-destunol, felly esboniwch pam y gwnaethoch chi ddewis cydraddoldeb X dros gydraddoldeb Y. [1][2]

Mae rheoleiddwyr a chyrff safonau yn parhau i bwysleisio meddwl cylch bywyd am reswm. Mae'n gweithio. [1]

Awgrymiadau cyfathrebu i randdeiliaid 🗣️

• Osgowch esboniadau mathemategol yn unig - dangoswch siartiau syml ac enghreifftiau pendant yn gyntaf.

• Defnyddiwch iaith glir - dywedwch beth allai'r model ei wneud yn annheg a phwy allai gael ei effeithio.

• Cyfaddawdau arwynebol - gall cyfyngiadau tegwch newid cywirdeb; nid yw hynny'n nam os yw'n lleihau niwed.

• Cynllunio rhagolygon wrth gefn - sut i oedi neu ddychwelyd os bydd problemau'n codi.

• Gwahodd craffu - mae adolygiad allanol neu dîm coch yn datgelu mannau dall. Does neb yn ei garu, ond mae'n helpu. [1][2]

Cwestiynau Cyffredin: beth yw rhagfarn AI, mewn gwirionedd? ❓

Onid data gwael yn unig yw rhagfarn?
Nid yn unig. Mae data yn bwysig, ond mae dewisiadau modelu, dyluniad gwerthuso, cyd-destun defnyddio, a chymhellion tîm i gyd yn dylanwadu ar ganlyniadau. [1]

A allaf ddileu rhagfarn yn llwyr?
Fel arfer ddim. Eich nod yw rheoli rhagfarn fel nad yw'n achosi effeithiau annheg - meddyliwch am leihau a llywodraethu, nid perffeithrwydd. [2]

Pa fetrig tegwch ddylwn i ei ddefnyddio?
Dewiswch yn seiliedig ar y math o niwed a rheolau'r parth. Er enghraifft, os yw canlyniadau positif ffug yn niweidio grŵp yn fwy, canolbwyntiwch ar gydraddoldeb cyfradd gwall (ods cyfartal). [3]

Oes angen adolygiad cyfreithiol arnaf?
Os yw eich system yn cyffwrdd â chyfleoedd neu hawliau pobl, ydy. Gall rheolau sy'n canolbwyntio ar ddefnyddwyr a chydraddoldeb fod yn berthnasol i benderfyniadau algorithmig, ac mae angen i chi ddangos eich gwaith. [2]

Sylwadau olaf: Rhy Hir, Ddim Wedi Darllen 🧾✨

Os bydd rhywun yn gofyn i chi beth yw rhagfarn AI , dyma'r ateb byrbryd: mae'n ystum systematig mewn allbynnau AI a all gynhyrchu effeithiau annheg yn y byd go iawn. Rydych chi'n ei ddiagnosio gyda metrigau sy'n briodol i'r cyd-destun, yn ei liniaru gyda thechnegau haenog, ac yn ei lywodraethu ar draws y cylch bywyd cyfan. Nid un nam i'w falu ydyw - mae'n gwestiwn cynnyrch, polisi a phobl sy'n gofyn am guriad drwm cyson o fesur, dogfennu a gostyngeiddrwydd. Mae'n debyg nad oes ateb syml... ond mae rhestrau gwirio gweddus, cyfaddawdau gonest, ac arferion gwell. Ac ie, nid yw ychydig o emojis byth yn brifo. 🙂

Cyfeiriadau

1. Cyhoeddiad Arbennig NIST 1270 - Tuag at Safon ar gyfer Nodi a Rheoli Rhagfarn mewn Deallusrwydd Artiffisial . Cyswllt

2. Swyddfa Comisiynydd Gwybodaeth y DU - Beth am degwch, rhagfarn a gwahaniaethu? Cyswllt

3. Dogfennaeth Fairlearn - Metrigau tegwch cyffredin (cydraddoldeb demograffig, ods cyfartal, calibradu). Cyswllt

4. Buolamwini, J., a Gebru, T. (2018). Arlliwiau Rhyw: Anghyfartaleddau Cywirdeb Croestoriadol mewn Dosbarthiad Rhyw Masnachol . FAT* / PMLR. Cyswllt

5. Ymchwil IBM - Cyflwyno Degwch AI 360 (AIF360) . Cyswllt

Dewch o hyd i'r AI Diweddaraf yn y Siop Swyddogol ar gyfer Cynorthwywyr AI

Amdanom Ni