Ydy AI wedi mynd yn rhy bell? [Fideo a Chwis]

Yr ateb byr: Mae deallusrwydd artiffisial wedi mynd yn rhy bell pan gaiff ei ddefnyddio mewn penderfyniadau, gwyliadwriaeth, neu berswâd sy'n llawn risgiau heb derfynau cadarn, caniatâd gwybodus, a hawl wirioneddol i apelio. Mae'n croesi'r llinell eto pan fydd ffugiau dwfn a sgamiau graddadwy yn gwneud i ymddiriedaeth deimlo fel gambl. Os na all pobl ddweud bod deallusrwydd artiffisial wedi chwarae rhan, na allant ddeall pam y gwnaeth penderfyniad fel y gwnaeth, neu na allant optio allan, mae eisoes wedi mynd yn rhy bell.

Prif bethau i'w cymryd:

Ffiniau: Diffiniwch yr hyn na all y system ei wneud, yn enwedig pan fo ansicrwydd yn uchel.

Atebolrwydd: Sicrhau y gall bodau dynol ddiystyru canlyniadau heb gosb na thrapiau pwysau amser.

Tryloywder: Dywedwch wrth bobl pryd mae AI yn gysylltiedig a pham y daeth i'w benderfyniadau.

Cystadleuaethadwyedd: Darparu llwybrau apelio cyflym ac ymarferol a ffyrdd clir o gywiro data gwael.

Gwrthsefyll camddefnydd: Ychwanegu tarddiad, terfynau cyfradd, a rheolaethau i atal sgamiau a chamddefnydd.

“Ydy AI wedi mynd yn rhy bell?”

Y peth rhyfedd yw nad yw'r croesi llinell bob amser yn amlwg. Weithiau mae'n uchel ac yn fflachlyd, fel sgam dwfn ffug. (FTC, FBI) ​​Ar adegau eraill mae'n dawel - penderfyniad awtomataidd sy'n gwthio'ch bywyd i'r ochr heb unrhyw esboniad, ac nid ydych chi hyd yn oed yn sylweddoli eich bod wedi cael eich "sgorio". (UK ICO, GDPR Erthygl 22)

Felly… Ydy AI wedi mynd yn rhy bell? Mewn rhai mannau, ie. Mewn mannau eraill, nid yw wedi mynd yn ddigon pell - oherwydd ei fod yn cael ei ddefnyddio heb y rheiliau diogelwch annymunol ond hanfodol sy'n gwneud i offer ymddwyn fel offer yn lle olwynion roulette gyda rhyngwyneb defnyddiwr cyfeillgar. 🎰🙂 (NIST AI RMF 1.0, Deddf AI yr UE)

Erthyglau y gallech fod eisiau eu darllen ar ôl yr un hon:

🔗 Pam y gall AI fod yn niweidiol i gymdeithas
Risgiau cymdeithasol allweddol: rhagfarn, swyddi, preifatrwydd, a chrynodiad pŵer.

🔗 A yw AI yn ddrwg i'r amgylchedd? Effeithiau cudd
Sut mae hyfforddiant, canolfannau data a defnydd ynni yn cynyddu allyriadau.

🔗 A yw AI yn dda neu'n ddrwg? Manteision ac anfanteision
Trosolwg cytbwys o fanteision, risgiau, a chyfaddawdau yn y byd go iawn.

🔗 Pam mae AI yn cael ei ystyried yn ddrwg: yr ochr dywyll
Yn archwilio camddefnydd, trin, bygythiadau diogelwch, a phryderon moesegol.

Beth mae pobl yn ei olygu pan maen nhw'n dweud “Ydy AI wedi mynd yn rhy bell?” 😬

Nid yw'r rhan fwyaf o bobl yn gofyn a yw AI yn "ymwybodol" neu'n "cymryd drosodd." Maen nhw'n pwyntio at un o'r rhain:

• Mae deallusrwydd artiffisial yn cael ei ddefnyddio lle na ddylid ei ddefnyddio. (Penderfyniadau pwysig, yn enwedig.) (Atodiad III Deddf Deallusrwydd artiffisial yr UE, Erthygl 22 GDPR)

• Mae deallusrwydd artiffisial yn cael ei ddefnyddio heb ganiatâd. (Eich data, eich llais, eich wyneb… syndod.) (UK ICO, GDPR Erthygl 5)

• Mae deallusrwydd artiffisial yn mynd yn rhy dda am drin sylw. (Ffrydiau + personoli + awtomeiddio = gludiog.) (Egwyddorion deallusrwydd artiffisial OECD)

• Mae deallusrwydd artiffisial yn gwneud i'r gwirionedd deimlo'n ddewisol. (Ffugiau dwfn, adolygiadau ffug, “arbenigwyr” synthetig.) (Y Comisiwn Ewropeaidd, FTC, C2PA)

• Mae deallusrwydd artiffisial yn crynhoi pŵer. (Ychydig o systemau sy'n llunio'r hyn y mae pawb yn ei weld a'r hyn y gall pawb ei wneud.) (CMA y DU)

Dyna galon “A yw AI wedi mynd yn rhy bell?” Nid un foment sengl ydyw. Mae'n bentwr o gymhellion, llwybrau byr, a meddwl “byddwn ni'n ei drwsio'n nes ymlaen” - sydd, gadewch i ni fod yn onest, yn tueddu i gyfieithu i “byddwn ni'n ei drwsio ar ôl i rywun gael ei anafu.” 😑

Y gwir sydd ddim mor gyfrinachol: Mae AI yn lluosydd, nid yn actor moesol 🔧✨

Nid yw deallusrwydd artiffisial yn deffro ac yn penderfynu bod yn niweidiol. Mae pobl a sefydliadau yn ei anelu. Ond mae'n lluosi beth bynnag rydych chi'n ei fwydo:

• Mae bwriad defnyddiol yn dod yn hynod ddefnyddiol (cyfieithu, hygyrchedd, crynhoi, adnabod patrymau meddygol).

• Mae bwriad diofal yn mynd yn hynod diofal (rhagfarn ar raddfa fawr, awtomeiddio gwallau).

• Mae bwriad drwg yn troi'n ddrwg iawn (twyll, aflonyddu, propaganda, dynwared).

Mae fel rhoi megaffon i blentyn bach. Weithiau mae'r plentyn bach yn canu… weithiau mae'r plentyn bach yn sgrechian yn uniongyrchol i'ch enaid. Nid trosiad perffaith - ychydig yn hurt - ond mae'r pwynt yn cyrraedd 😅📢.

Beth sy'n gwneud fersiwn dda o AI mewn lleoliadau bob dydd? ✅🤝

Nid yw "fersiwn dda" o AI yn cael ei ddiffinio gan ba mor glyfar ydyw. Fe'i diffinnir gan ba mor dda y mae'n ymddwyn o dan bwysau, ansicrwydd a themtasiwn (ac mae bodau dynol yn cael eu temtio'n fawr gan awtomeiddio rhad). (NIST AI RMF 1.0, OECD)

Dyma beth rwy'n chwilio amdano pan fydd rhywun yn honni bod eu defnydd o AI yn gyfrifol:

1) Ffiniau clir

• Beth mae'r system yn cael caniatâd i'w wneud?

• Beth sydd wedi'i wahardd yn benodol i'w wneud?

• Beth sy'n digwydd pan mae'n ansicr?

2) Atebolrwydd dynol sy'n real, nid yn addurniadol

Dim ond os yw canlyniadau “adolygu” dynol yn bwysig:

• maen nhw'n deall beth maen nhw'n ei adolygu, a

• gallant ei oresgyn heb gael eu cosbi am arafu pethau.

3) Egluradwyedd ar y lefel gywir

Nid oes angen y mathemateg ar bawb. Mae angen i bobl:

• y prif resymau dros benderfyniad,

• pa ddata a ddefnyddiwyd,

• sut i apelio, cywiro, neu optio allan. (UK ICO)

4) Perfformiad mesuradwy - gan gynnwys dulliau methiant

Nid “cywirdeb” yn unig, ond:

• ar bwy mae'n methu,

• pa mor aml y mae'n methu'n dawel,

• beth sy'n digwydd pan fydd y byd yn newid. (NIST AI RMF 1.0)

5) Preifatrwydd a chydsyniad nad ydynt wedi'u "claddu mewn gosodiadau"

Os yw caniatâd yn gofyn am helfa drysor drwy fwydlenni… nid caniatâd mohono. Mae'n dwll yn y ffordd gyda chamau ychwanegol 😐🧾. (Erthygl 5 GDPR, ICO'r DU)

Tabl cymharu: ffyrdd ymarferol o atal AI rhag mynd yn rhy bell 🧰📊

Isod mae'r "opsiynau gorau" yn yr ystyr eu bod yn reiliau gwarchod cyffredin neu'n offer gweithredol sy'n newid canlyniadau (nid dim ond naws).

Iawn, mae'r bwrdd ychydig yn anwastad. Dyna fywyd. 🙂

AI mewn penderfyniadau pwysig: pan mae'n mynd yn rhy bell 🏥🏦⚖️

Dyma lle mae pethau'n mynd yn ddifrifol yn gyflym.

Deallusrwydd Artiffisial mewn gofal iechyd, cyllid, tai, cyflogaeth, addysg, mewnfudo, cyfiawnder troseddol - dyma systemau lle: (Atodiad III Deddf Deallusrwydd Artiffisial yr UE, FDA)

• gall camgymeriad gostio arian, rhyddid, urddas neu ddiogelwch i rywun,

• ac yn aml mae gan y person yr effeithir arno bŵer cyfyngedig i ymladd yn ôl.

Nid “mae AI yn gwneud camgymeriadau” yw’r risg fawr. Y risg fawr yw bod camgymeriadau AI yn dod yn bolisi. (NIST AI RMF 1.0)

Sut olwg sydd ar “rhy bell” yma

• Penderfyniadau awtomataidd heb esboniad: “mae cyfrifiadur yn dweud na.” (ICO’r DU)

• “Sgorau risg” yn cael eu trin fel ffeithiau yn hytrach na dyfaliadau.

• Bodau dynol na allant ddiystyru canlyniadau oherwydd bod rheolwyr eisiau cyflymder.

• Data sy'n flêr, yn rhagfarnllyd, yn hen ffasiwn, neu'n gwbl anghywir.

Yr hyn na ddylai fod yn agored i drafodaeth

• Hawl i apelio (cyflym, dealladwy, nid drysfa). (GDPR Erthygl 22, ICO y DU)

• Hawl i wybod bod AI wedi bod yn rhan o hyn. (Y Comisiwn Ewropeaidd)

• Adolygiad dynol ar gyfer canlyniadau canlyniadol. (NIST AI RMF 1.0)

• Rheoli ansawdd ar ddata - oherwydd mae sbwriel i mewn, sbwriel allan yn dal yn boenus o wir.

Os ydych chi'n ceisio tynnu llinell glir, dyma un:
Os gall system AI newid bywyd rhywun yn sylweddol, mae angen yr un difrifoldeb arno ag yr ydym yn ei ddisgwyl gan fathau eraill o awdurdod. Dim "profi beta" ar bobl nad ydynt wedi cofrestru. 🚫

Ffugiau dwfn, sgamiau, a marwolaeth araf “Rwy'n ymddiried yn fy llygaid” 👀🧨

Dyma'r rhan sy'n gwneud i fywyd bob dydd deimlo'n ... llithrig.

Pryd y gall AI gynhyrchu:

• neges llais sy'n swnio fel aelod o'ch teulu, (FTC, FBI)

• fideo o ffigwr cyhoeddus yn “dweud” rhywbeth,

• llif o adolygiadau ffug sy'n edrych yn ddigon dilys, (FTC)

• proffil LinkedIn ffug gyda hanes swydd ffug a ffrindiau ffug…

…nid yw'n galluogi sgamiau yn unig. Mae'n gwanhau'r glud cymdeithasol sy'n gadael i ddieithriaid gydlynu. Ac mae cymdeithas yn rhedeg ar ddieithriaid yn cydlynu. 😵💫

Nid dim ond cynnwys ffug yw “rhy bell”

Dyma'r anghymesuredd:

• Mae'n rhad cynhyrchu celwyddau.

• Mae'n ddrud ac yn araf i wirio'r gwirionedd.

• Ac mae'r rhan fwyaf o bobl yn brysur, yn flinedig, ac yn sgrolio.

Beth sy'n helpu (ychydig)

• Marcwyr tarddiad ar gyfer cyfryngau. (C2PA)

• Frithiant dros firaoldeb - arafu rhannu torfol ar unwaith.

• Gwirio hunaniaeth gwell lle mae'n bwysig (cyllid, gwasanaethau'r llywodraeth).

• Arferion sylfaenol “gwirio allan o’r band” ar gyfer unigolion (ffonio’n ôl, defnyddio gair cod, cadarnhau drwy sianel arall). (FTC)

Ddim yn hudolus. Ond nid yw gwregysau diogelwch chwaith, ac rwy'n eithaf hoff o'r rheini, yn bersonol. 🚗

Ymlusgo gwyliadwriaeth: pan fydd AI yn troi popeth yn synhwyrydd yn dawel 📷🫥

Dydy'r un hon ddim yn ffrwydro fel deepfake. Mae'n lledaenu yn unig.

Mae AI yn ei gwneud hi'n hawdd i:

• adnabod wynebau mewn torfeydd, (Deddf AI yr UE, NIST FRVT)

• patrymau symudiad olrhain,

• casglu emosiynau o fideo (yn aml yn wael, ond yn hyderus), (Barrett et al., 2019, Deddf AI yr UE)

• rhagweld “risg” yn seiliedig ar ymddygiad… neu awyrgylch eich cymdogaeth.

A hyd yn oed pan mae'n anghywir, gall fod yn niweidiol o hyd oherwydd gall gyfiawnhau ymyrraeth. Gall rhagfynegiad anghywir sbarduno canlyniadau go iawn o hyd.

Y darn anghyfforddus

Yn aml, mae gwyliadwriaeth sy'n cael ei phweru gan AI yn cyrraedd wedi'i lapio mewn stori ddiogelwch:

• “Mae er mwyn atal twyll.”

• “Mae er mwyn diogelwch.”

• “Mae ar gyfer profiad y defnyddiwr.”

Weithiau mae hynny'n wir. Weithiau mae hefyd yn esgus cyfleus dros adeiladu systemau sy'n anodd iawn eu datgymalu'n ddiweddarach. Fel gosod drws unffordd yn eich tŷ eich hun oherwydd ei fod yn ymddangos yn effeithlon ar y pryd. Unwaith eto, nid trosiad perffaith - braidd yn chwerthinllyd - ond rydych chi'n ei deimlo. 🚪😅

Sut olwg sydd ar "dda" yma

• Cyfyngiadau llym ar gadw a rhannu.

• Clirio dewisiadau optio allan.

• Achosion defnydd cul.

• Goruchwyliaeth annibynnol.

• Dim "canfod emosiynau" i'w defnyddio ar gyfer cosb na chadw porth. Plîs. 🙃 (Deddf AI yr UE)

Gwaith, creadigrwydd, a'r broblem dadsgilio dawel 🧑💻🎨

Dyma lle mae'r ddadl yn mynd yn bersonol oherwydd ei bod yn cyffwrdd â hunaniaeth.

Gall deallusrwydd artiffisial wneud pobl yn fwy cynhyrchiol. Gall hefyd wneud i bobl deimlo y gellir eu disodli. Gall y ddau fod yn wir, ar yr un pryd, yn yr un wythnos. (OECD, WEF)

Lle mae'n wirioneddol ddefnyddiol

• Drafftio testun arferol fel y gall bodau dynol ganolbwyntio ar feddwl.

• Cymorth codio ar gyfer patrymau ailadroddus.

• Offer hygyrchedd (capsiynau, crynhoi, cyfieithu).

• Ystyried syniadau pan fyddwch chi wedi'ch dal.

Lle mae'n mynd yn rhy bell

• Disodli rolau heb gynlluniau pontio.

• Defnyddio deallusrwydd artiffisial i wasgu allbwn wrth fflatio cyflogau.

• Trin gwaith creadigol fel data hyfforddi diderfyn am ddim, yna codi ei ysgwyddau. (Swyddfa Hawlfraint yr Unol Daleithiau, GOV.UK y DU)

• Gwneud i rolau iau ddiflannu - sy'n swnio'n effeithlon nes i chi sylweddoli eich bod newydd losgi'r ysgol y mae angen i arbenigwyr y dyfodol ei dringo.

Mae dadsgilio yn gynnil. Dydych chi ddim yn sylwi arno o ddydd i ddydd. Yna un diwrnod rydych chi'n sylweddoli nad oes neb yn y tîm yn cofio sut mae'r peth yn gweithio heb y cynorthwyydd. Ac os yw'r cynorthwyydd yn anghywir, rydych chi i gyd yn hyderus eich bod chi'n anghywir gyda'ch gilydd ... sy'n dipyn o hunllef. 😬

Crynodiad pŵer: pwy sy'n cael gosod y rhagosodiadau? 🏢⚡

Hyd yn oed os yw AI yn "niwtral" (nid yw), gall pwy bynnag sy'n ei reoli lunio:

• pa wybodaeth sy'n hawdd ei chael,

• beth sy'n cael ei hyrwyddo neu ei gladdu,

• pa iaith sy'n cael ei chaniatáu,

• pa ymddygiadau sy'n cael eu hannog.

Ac oherwydd y gall systemau AI fod yn ddrud i'w hadeiladu a'u rhedeg, mae pŵer yn tueddu i ganolbwyntio. Nid cynllwyn yw hynny. Dyna economeg gyda hwdi technoleg. (CMA y DU)

Y foment "rhy bell" yma

Pan fydd y diffygion yn dod yn gyfraith anweledig:

• dydych chi ddim yn gwybod beth sy'n cael ei hidlo,

• ni allwch archwilio'r rhesymeg,

• ac ni allwch chi optio allan yn realistig heb golli mynediad at waith, cymuned, neu wasanaethau sylfaenol.

Mae angen cystadleuaeth, tryloywder, a dewis go iawn gan ddefnyddwyr ar ecosystem iach. Fel arall, rydych chi'n rhentu realiti yn y bôn. 😵♂️

Rhestr wirio ymarferol: sut i ddweud a yw AI yn mynd yn rhy bell yn eich byd 🧾🔍

Dyma restr wirio perfedd rwy'n ei defnyddio (ac ie, mae'n amherffaith):

Os ydych chi'n unigolyn

• Gallaf ddweud pryd rwy'n rhyngweithio â deallusrwydd artiffisial. (Y Comisiwn Ewropeaidd)

• Mae'r system hon yn fy ngwthio i or-rannu.

• Byddwn i'n iawn delio â'r allbwn os yw'n anghywir mewn ffordd gredadwy.

• Petawn i'n cael fy sgamio gan ddefnyddio hyn, byddai'r platfform yn fy helpu ... neu byddai'n codi ei ysgwyddau.

Os ydych chi'n fusnes neu'n dîm

• Rydym yn defnyddio deallusrwydd artiffisial oherwydd ei fod yn werthfawr, neu oherwydd ei fod yn ffasiynol ac mae'r rheolaeth yn aflonydd.

• Rydyn ni'n gwybod pa ddata mae'r system yn ei gyffwrdd.

• Gall defnyddiwr yr effeithir arno apelio yn erbyn canlyniadau. (ICO'r DU)

• Mae gan fodau dynol y pŵer i ddiystyru'r model.

• Mae gennym gynlluniau ymateb i ddigwyddiadau ar gyfer methiannau AI.

• Rydym yn monitro am drifft, camddefnydd, ac achosion ymyl anarferol.

Os ateboch chi “na” i griw o’r rhain, nid yw hynny’n golygu eich bod chi’n ddrwg. Mae’n golygu eich bod chi yn y cyflwr dynol arferol o “fe wnaethon ni ei gludo a gobeithio.” Ond nid strategaeth yw gobeithio, yn anffodus. 😅

Nodiadau cloi 🧠✅

Felly… Ydy AI wedi mynd yn rhy bell?
Mae wedi mynd yn rhy bell lle mae'n cael ei ddefnyddio heb atebolrwydd, yn enwedig mewn penderfyniadau pwysig, perswâd torfol, a gwyliadwriaeth. Mae hefyd wedi mynd yn rhy bell lle mae'n erydu ymddiriedaeth - oherwydd unwaith y bydd ymddiriedaeth yn torri, mae popeth yn mynd yn ddrytach ac yn fwy gelyniaethus, yn gymdeithasol. (NIST AI RMF 1.0, Deddf AI yr UE)

Ond nid yw AI yn gynhenid ​​wedi'i dynghedu nac yn gynhenid ​​berffaith. Mae'n luosydd pwerus. Y cwestiwn yw a ydym yn adeiladu'r rheiliau gwarchod mor ymosodol ag yr ydym yn adeiladu'r galluoedd.

Crynodeb cyflym:

• Mae AI yn iawn fel offeryn.

• Mae'n beryglus fel awdurdod anatebol.

• Os na all rhywun apelio, deall, neu optio allan - dyna lle mae “mynd yn rhy bell” yn dechrau. 🚦 (GDPR Erthygl 22, ICO'r DU)

Enghraifft o'r byd go iawn: Archwilio penderfyniad AI cyn iddo effeithio ar gwsmer

Senario

Mae benthyciwr bach ar-lein eisiau defnyddio deallusrwydd artiffisial i ddidoli ceisiadau am fenthyciadau yn dair grŵp: cymeradwyo, adolygu â llaw, a gwrthod.

Mae hynny'n swnio'n effeithlon, ond gall y risg gynyddu'n gyflym. Gall ymgeisydd sydd wedi'i wrthod golli mynediad at arian brys, ac os yw'r AI yn defnyddio data o ansawdd gwael, rhagdybiaethau hen ffasiwn, neu signalau dirprwyol fel cod post, bylchau cyflogaeth, neu fath o ddyfais, gallai'r system gosbi pobl yn dawel heb roi esboniad teg iddynt.

Felly mae'r tîm yn penderfynu na all y deallusrwydd artiffisial wneud penderfyniadau gwrthod terfynol. Dim ond nodi ceisiadau i'w hadolygu ac egluro pa bwyntiau data ddylanwadodd ar yr argymhelliad y gall.

Beth sydd ei angen ar y llif gwaith

Cyn defnyddio'r cynorthwyydd, mae'r tîm yn paratoi:

• y polisi benthyca wedi'i ysgrifennu mewn iaith glir, bob dydd

• rhestr o ddata y caniateir i'r AI ei ddefnyddio

• rhestr o ddata y mae'n rhaid iddo ei anwybyddu, fel nodweddion gwarchodedig

• 50 o geisiadau blaenorol gyda phenderfyniadau dynol hysbys

• templed apêl ar gyfer ymgeiswyr sydd wedi cael eu gwrthod neu eu gohirio

• log archwilio yn dangos yr hyn a argymhellodd yr AI a'r hyn a benderfynodd yr adolygydd dynol

Mae'r rheol bwysicaf yn syml: ni chaiff unrhyw gwsmer ei wrthod gan AI yn unig.

Cyfarwyddyd enghreifftiol

Rydych chi'n gynorthwyydd adolygu AI ar gyfer ceisiadau am fenthyciadau.

Eich gwaith chi yw helpu adolygydd dynol i nodi gwybodaeth sydd ar goll, anghydweddiadau polisi, ac achosion sydd angen eu hadolygu â llaw.

Rhaid i chi beidio â gwneud penderfyniad terfynol ynglŷn â benthyca.

Ar gyfer pob cais, dychwelwch:

1. Cam nesaf a argymhellir: cymeradwyo ar gyfer cadarnhad dynol, adolygiad â llaw, neu ofyn am ragor o wybodaeth

2. Prif resymau dros yr argymhelliad

3. Pwyntiau data a ddefnyddiwyd

4. Pwyntiau data na ddylid eu defnyddio

5. Cwestiynau y dylai'r adolygydd dynol eu gwirio

6. Esboniad clir i'r ymgeisydd

Os yw'r dystiolaeth yn anghyflawn, dywedwch hynny'n glir.

Os gallai'r achos effeithio'n sylweddol ar lesiant ariannol yr ymgeisydd, dylid ei uwchgyfeirio at adolygydd dynol.

Sut i'w brofi

Mae'r tîm yn profi'r cynorthwyydd cyn ei adael yn agos at gymwysiadau byw.

Mae achosion prawf da yn cynnwys:

• ymgeisydd ag incwm sefydlog ond ffeil credyd denau

• ymgeisydd sydd wedi newid cyfeiriad yn ddiweddar

• ymgeisydd y mae ei ddata incwm ar goll

• ymgeisydd a gafodd ei wrthod ar gam yn y gorffennol

• dau ymgeisydd tebyg lle mae manylion amherthnasol yn unig yn wahanol

Ar gyfer pob prawf, mae'r adolygydd yn gwirio tri pheth:

1. A wnaeth y cynorthwyydd osgoi gwneud penderfyniad terfynol?

2. A roddodd reswm y gallai ymgeisydd arferol ei ddeall?

3. A wnaeth uwchgyfeirio achosion ansicr neu achosion effaith uchel yn lle dyfalu?

Canlyniad

Canlyniad darluniadol: Mewn set brawf o 50 o gymwysiadau, tybiwch fod adolygiad â llaw fel arfer yn cymryd 12 munud fesul cymhwysiad, neu tua 10 awr i gyd.

Gyda'r cynorthwyydd AI yn paratoi crynodebau, gwiriadau data coll, ac esboniadau drafft, mae'r amser adolygu yn gostwng i 7 munud fesul cais, neu tua 5 awr 50 munud i gyd.

Mae hynny'n arbediad amcangyfrifedig o 4 awr a 10 munud fesul 50 cais, gan gadw rhywun yn gyfrifol am y penderfyniad terfynol o hyd.

Mae'r tîm hefyd yn olrhain ansawdd:

• 0 gwrthodiad terfynol wedi'u gwneud gan AI

• 50/50 o geisiadau wedi'u cofnodi i'w harchwilio

• 8 cais wedi'u huwchgyfeirio oherwydd bod y dystiolaeth yn anghyflawn

• 3 esboniad drafft wedi'u hailysgrifennu oherwydd eu bod yn rhy amwys

Nid yw'r niferoedd hynny'n brawf bod y system yn "ddiogel". Maent yn ddechrau arfer mesur.

Beth all fynd o'i le

Gall y cynorthwyydd fynd yn rhy bell o hyd os yw'r tîm yn trin ei argymhelliad fel llwybr byr yn hytrach nag awgrym i'w adolygu.

Mae camgymeriadau cyffredin yn cynnwys:

• gadael i adolygwyr roi stamp rwber ar allbynnau AI

• cuddio'r ffaith bod AI wedi helpu i asesu'r cais

• gan ddefnyddio esboniadau amwys fel “ffactorau risg wedi’u canfod”

• methu â phrofi am ragfarn cod post, oedran, anabledd, neu batrwm incwm

• peidio â chadw llwybr archwilio

• gwneud apeliadau'n araf neu'n waradwyddus

Yr arwydd rhybuddio mwyaf yw pan na all neb egluro pam y cafodd cwsmer ei wrthod, ei ohirio, neu ei nodi.

Tecawê ymarferol

Mae deallusrwydd artiffisial (AI) yn gweithio orau mewn penderfyniadau pwysig pan fydd yn lleihau gwaith gweinyddol, yn trefnu tystiolaeth, ac yn canfod gwybodaeth sydd ar goll. Mae'n mynd yn rhy bell pan ddaw'n awdurdod anweledig. Nid y patrwm mwy diogel yw "gadael i AI benderfynu'n gyflymach"; mae'n gadael i AI gynorthwyo, cofnodi popeth, a chadw bodau dynol yn atebol pan fydd y canlyniad yn bwysig.

Cwestiynau Cyffredin

A yw AI wedi mynd yn rhy bell ym mywyd beunyddiol?

Mewn llawer o leoedd, mae AI wedi mynd yn rhy bell oherwydd ei fod wedi dechrau llithro i benderfyniadau a rhyngweithiadau heb ffiniau clir nac atebolrwydd. Anaml y mae'r broblem yn "AI yn bodoli"; mae'n AI yn cael ei wnïo'n dawel i mewn i gyflogi, gofal iechyd, gwasanaeth cwsmeriaid, a ffrydiau gyda goruchwyliaeth denau. Pan na all pobl ddweud ei fod yn AI, na allant herio canlyniadau, neu na allant optio allan, mae'n rhoi'r gorau i deimlo fel offeryn ac yn dechrau teimlo fel system.

Sut olwg sydd ar “AI yn mynd yn rhy bell” mewn penderfyniadau pwysig?

Mae'n edrych fel bod deallusrwydd artiffisial yn cael ei ddefnyddio mewn gofal iechyd, cyllid, tai, cyflogaeth, addysg, mewnfudo, neu gyfiawnder troseddol heb reiliau gwarchod cryf. Y prif broblem yw nid bod modelau'n gwneud camgymeriadau; ond bod y camgymeriadau hynny'n caledu'n bolisi ac yn dod yn anodd eu herio. Penderfyniadau "dweud na" gyda esboniadau tenau a dim apeliadau ystyrlon yw lle mae niwed yn cynyddu'n gyflym.

Sut alla i ddweud a yw penderfyniad awtomataidd yn effeithio arna i, a beth alla i ei wneud?

Arwydd cyffredin yw canlyniad sydyn na allwch ei gyfrif: gwrthod, cyfyngiad, neu naws "sgôr risg" heb reswm clir. Dylai llawer o systemau ddatgelu pryd y chwaraeodd AI rôl berthnasol, a dylech allu gofyn am y prif resymau y tu ôl i'r penderfyniad a'r camau i apelio yn ei erbyn. Yn ymarferol, gofynnwch am adolygiad dynol, cywirwch unrhyw ddata anghywir, a gwthiwch am lwybr optio allan syml.

A yw AI wedi mynd yn rhy bell gyda phreifatrwydd, caniatâd a defnyddio data?

Mae'n aml yn digwydd pan fydd caniatâd yn dod yn helfa sborion ac mae casglu data yn ehangu "rhag ofn." Pwynt craidd yr erthygl yw nad yw preifatrwydd a chaniatâd yn dal llawer o bwys os cânt eu claddu mewn lleoliadau neu eu gorfodi trwy dermau amwys. Dull iachach yw lleihau data: casglu llai, cadw llai, a gwneud dewisiadau'n amlwg fel nad yw pobl yn synnu yn ddiweddarach.

Sut mae sgamiau dwfn-ffugiau a deallusrwydd artiffisial yn newid beth mae “ymddiriedaeth” yn ei olygu ar-lein?

Maen nhw'n gwneud i'r gwir deimlo'n ddewisol drwy ostwng cost cynhyrchu lleisiau, fideos, adolygiadau a hunaniaethau ffug argyhoeddiadol. Yr anghymesuredd yw'r broblem: mae cynhyrchu celwyddau yn rhad, tra bod gwirio'r gwir yn araf ac yn flinedig. Mae amddiffyniadau ymarferol yn cynnwys signalau tarddiad ar gyfer y cyfryngau, arafu rhannu firaol, gwiriadau hunaniaeth cryfach lle mae'n bwysig, ac arferion "gwirio y tu allan i'r band" fel ffonio'n ôl neu ddefnyddio gair cod a rennir.

Beth yw'r rheiliau gwarchod mwyaf ymarferol i atal AI rhag mynd yn rhy bell?

Mae rheiliau gwarchod sy'n newid canlyniadau yn cynnwys adolygiad dilys gan bobl ar gyfer galwadau peryglus, prosesau apelio clir, a logiau archwilio a all ateb "beth ddigwyddodd?" ar ôl methiannau. Gall gwerthuso modelau a phrofi rhagfarn ganfod niwed rhagweladwy yn gynharach, tra bod profion tîm coch yn efelychu camddefnydd cyn i ymosodwyr wneud hynny. Mae terfynau cyfradd a rheolaethau mynediad yn helpu i atal camddefnydd rhag ehangu ar unwaith, ac mae lleihau data yn lleihau risg ar draws y bwrdd.

Pryd mae gwyliadwriaeth sy'n cael ei gyrru gan AI yn croesi'r llinell?

Mae'n croesi'r llinell pan fydd popeth yn troi'n synhwyrydd yn ddiofyn: adnabod wynebau mewn torfeydd, olrhain patrymau symudiadau, neu "ganfod emosiynau" hyderus a ddefnyddir ar gyfer cosb neu gadw porth. Gall hyd yn oed systemau anghywir achosi niwed difrifol os ydynt yn cyfiawnhau ymyriadau neu wrthod gwasanaethau. Mae arfer da yn edrych fel achosion defnydd cul, terfynau cadw llym, optio allan ystyrlon, goruchwyliaeth annibynnol, a "na" cadarn i farnau simsan sy'n seiliedig ar emosiynau.

A yw deallusrwydd artiffisial yn gwneud pobl yn fwy cynhyrchiol - neu'n dadsgilio gwaith yn dawel?

Gall y ddau fod yn wir ar yr un pryd, a'r tensiwn hwnnw yw'r pwynt. Gall deallusrwydd artiffisial helpu gyda drafftio arferol, patrymau codio ailadroddus, a hygyrchedd, gan ryddhau bodau dynol i ganolbwyntio ar feddwl lefel uwch. Mae'n mynd yn rhy bell pan fydd yn disodli rolau heb gynlluniau trosglwyddo, yn gwasgu cyflogau, yn trin gwaith creadigol fel data hyfforddi am ddim, neu'n dileu rolau iau sy'n adeiladu arbenigedd yn y dyfodol. Mae dadsgilio yn parhau'n gynnil nes na all timau weithredu heb y cynorthwyydd.

Cyfeiriadau

1. Sefydliad Cenedlaethol Safonau a Thechnoleg (NIST) - Fframwaith Rheoli Risg AI (AI RMF 1.0) - nist.gov

2. Yr Undeb Ewropeaidd - Deddf AI yr UE (Rheoliad (EU) 2024/1689) - Cyfnodolyn Swyddogol (Saesneg) - europa.eu

3. Comisiwn Ewropeaidd - Fframwaith rheoleiddio ar gyfer AI (tudalen bolisi Deddf AI yr UE) - europa.eu

4. Desg Gymorth Deddf AI yr UE - Atodiad III (Systemau AI risg uchel) - europa.eu

5. Yr Undeb Ewropeaidd - Rheolau ar gyfer deallusrwydd artiffisial dibynadwy yn yr UE (crynodeb o Ddeddf AI yr UE) - europa.eu

6. Swyddfa Comisiynydd Gwybodaeth y DU (ICO) - Beth yw gwneud penderfyniadau a phroffilio unigol awtomataidd? - ico.org.uk

7. Swyddfa Comisiynydd Gwybodaeth y DU (ICO) - Beth mae GDPR y DU yn ei ddweud am wneud penderfyniadau awtomataidd a phroffilio? - ico.org.uk

8. Swyddfa Comisiynydd Gwybodaeth y DU (ICO) - Gwneud penderfyniadau a phroffilio awtomataidd (canolfan ganllawiau) - ico.org.uk

9. Swyddfa Comisiynydd Gwybodaeth y DU (ICO) - Lleihau data (canllawiau egwyddorion GDPR y DU) - ico.org.uk

10. GDPR-info.eu - Erthygl 22 GDPR - gdpr-info.eu

11. GDPR-info.eu - Erthygl 5 GDPR - gdpr-info.eu

12. Comisiwn Masnach Ffederal yr Unol Daleithiau (FTC) - Mae sgamwyr yn defnyddio deallusrwydd artiffisial i wella eu cynlluniau argyfwng teuluol - ftc.gov

13. Comisiwn Masnach Ffederal yr Unol Daleithiau (FTC) - Mae sgamwyr yn defnyddio argyfyngau ffug i ddwyn eich arian - ftc.gov

14. Comisiwn Masnach Ffederal yr Unol Daleithiau (FTC) - Rheol derfynol yn gwahardd adolygiadau a thystiolaethau ffug (datganiad i'r wasg) - ftc.gov

15. Swyddfa Ymchwilio Ffederal (FBI) - Mae'r FBI yn rhybuddio am fygythiad cynyddol troseddwyr seiber sy'n defnyddio deallusrwydd artiffisial - fbi.gov

16. Sefydliad ar gyfer Cydweithrediad a Datblygiad Economaidd (OECD) - Egwyddorion Deallusrwydd Artiffisial OECD - oecd.ai

17. OECD - Argymhelliad y Cyngor ar Ddeallusrwydd Artiffisial (OECD/LEGAL/0449) - oecd.org

18. Comisiwn Ewropeaidd - Canllawiau a chod ymarfer ar gyfer systemau AI tryloyw (Cwestiynau Cyffredin) - europa.eu

19. Cynghrair ar gyfer Tarddiad a Dilysrwydd Cynnwys (C2PA) - Manylebau v2.3 - c2pa.org

20. Awdurdod Cystadleuaeth a Marchnadoedd y DU (CMA) - Modelau sylfaen AI: adroddiad cychwynnol - gov.uk

21. Gweinyddiaeth Bwyd a Chyffuriau'r Unol Daleithiau (FDA) - Dyfeisiau Meddygol sy'n cael eu Galluogi gan Ddeallusrwydd Artiffisial - fda.gov

22. NIST - Rheolaethau Diogelwch a Phreifatrwydd ar gyfer Systemau Gwybodaeth a Sefydliadau (SP 800-53 Diwyg. 5) - nist.gov

23. NIST - Proffil Deallusrwydd Artiffisial Cynhyrchiol (NIST.AI.600-1, ipd) - nist.gov

24. Prosiect Diogelwch Cymwysiadau Byd-eang Agored (OWASP) - Defnydd Adnoddau Heb Gyfyngiad (10 Uchaf Diogelwch API, 2023) - owasp.org

25. NIST - Demograffeg Prawf Gwerthwyr Adnabod Wynebau (FRVT) - nist.gov

26. Barrett et al. (2019) - Erthygl (PMC) - nih.gov

27. OECD - Defnyddio Deallusrwydd Artiffisial yn y gweithle (PDF) - oecd.org

28. Fforwm Economaidd y Byd (WEF) - Adroddiad Dyfodol Swyddi 2025 - Crynodeb - weforum.org

29. Swyddfa Hawlfraint yr Unol Daleithiau - Hawlfraint a Deallusrwydd Artiffisial, Rhan 3: Adroddiad Hyfforddiant Deallusrwydd Artiffisial Cynhyrchiol (Fersiwn Cyn-Gyhoeddi) (PDF) - copyright.gov

30. Llywodraeth y DU (GOV.UK) - Hawlfraint a deallusrwydd artiffisial (ymgynghoriad) - gov.uk

Dewch o hyd i'r AI Diweddaraf yn y Siop Swyddogol ar gyfer Cynorthwywyr AI

Amdanom Ni