A yw synwyryddion AI yn ddibynadwy? [Fideo a Chwis]

Yr ateb byr: Gall synwyryddion testun AI fod yn signal cyflym i “edrych yn agosach”, yn enwedig pan fydd gennych samplau hirach, ond nid ydynt yn brawf dibynadwy o awduraeth. Gydag ysgrifennu byr, wedi’i olygu’n helaeth, ffurfiol, neu nad yw’n frodorol, mae canlyniadau positif ffug a methiannau’n dod yn gyffredin, felly ni ddylai penderfyniadau byth ddibynnu ar un sgôr.

Gallant fod yn ddefnyddiol fel awgrym - gwthiad, signal "efallai edrych yn agosach". Ond nid ydynt yn ddibynadwy fel prawf. Ddim hyd yn oed yn agos. A hyd yn oed y cwmnïau sy'n adeiladu synwyryddion yn tueddu i ddweud hyn mewn un ffordd neu'r llall (weithiau'n uchel, weithiau yn yr argraff mân). Er enghraifft, mae OpenAI wedi dweud ei bod hi'n amhosibl canfod yn ddibynadwy'r holl destun a ysgrifennwyd gan AI, a hyd yn oed wedi cyhoeddi niferoedd gwerthuso sy'n dangos cyfraddau methu ystyrlon a chamgymeriadau positif ffug. [1]

Prif bethau i'w cymryd:

Dibynadwyedd: Trin sgoriau synhwyrydd fel awgrymiadau, nid tystiolaeth, yn enwedig mewn achosion lle mae perygl mawr.

Cadarnhaol ffug: Yn aml, caiff ysgrifennu dynol ffurfiol, templedi, byr, neu gaboledig iawn ei labelu'n anghywir.

Negyddion ffug: Gall paraffrasio ysgafn neu ddrafftiau cymysg rhwng bodau dynol a deallusrwydd artiffisial lithro heibio i ganfod yn hawdd.

Dilysu: Yn well ganddyn nhw brawf proses - hanes drafft, nodiadau, ffynonellau, a llwybrau adolygu.

Llywodraethu: Gofyn am derfynau tryloyw, adolygiad dynol, a llwybr apelio cyn canlyniadau.

Erthyglau y gallech fod eisiau eu darllen ar ôl yr un hon:

🔗 Sut mae canfod AI yn gweithio
Gweler sut mae offer yn canfod ysgrifennu AI gan ddefnyddio patrymau a thebygolrwyddau.

🔗 Sut mae AI yn rhagweld tueddiadau
Deall sut mae algorithmau yn rhagweld galw o ddata a signalau.

🔗 Sut i ddefnyddio AI ar eich ffôn
Ffyrdd ymarferol o ddefnyddio apiau AI ar gyfer tasgau dyddiol.

🔗 Ai deallusrwydd artiffisial yw testun-i-leferydd?
Dysgwch sut mae systemau TTS yn cynhyrchu lleisiau naturiol o destun ysgrifenedig.

Pam mae pobl yn dal i ofyn a yw synwyryddion AI yn ddibynadwy 😅

Oherwydd bod y risgiau wedi mynd yn rhyfedd o uchel, yn gyflym.

• Mae athrawon eisiau amddiffyn uniondeb academaidd 🎓

• Mae golygyddion eisiau atal erthyglau sbam hawdd eu defnyddio 📰

• Mae rheolwyr llogi eisiau samplau ysgrifennu dilys 💼

• Mae myfyrwyr eisiau osgoi cael eu cyhuddo'n ffug 😬

• Mae brandiau eisiau llais cyson, nid ffatri cynnwys copïo a gludo 📣

Ac, ar lefel y greddf, mae yna awydd am gysur peiriant a all ddweud “mae hyn yn real” neu “mae hyn yn ffug” yn sicr. Fel synhwyrydd metel mewn maes awyr.

Ac eithrio… nid metel yw iaith. Mae iaith yn debycach i niwl. Gallwch chi bwyntio fflachlamp i mewn iddo, ond mae pobl yn dal i ddadlau am yr hyn a welsant.

Dibynadwyedd mewn ymarfer yn erbyn demos 🎭

Mewn amodau rheoledig, gall synwyryddion edrych yn drawiadol. Mewn defnydd bob dydd, mae'n mynd yn llai taclus - oherwydd nad yw synwyryddion yn "gweld awduraeth," maen nhw'n gweld patrymau.

Mae hyd yn oed tudalen dosbarthwr testun OpenAI, sydd bellach wedi'i rhoi i ben, yn ddi-flewyn-ar-dafod ynglŷn â'r prif broblem: nid oes gwarant bod canfod dibynadwy yn bosibl, ac mae perfformiad yn amrywio yn ôl pethau fel hyd testun (mae testun byr yn anoddach). Fe wnaethant hefyd rannu enghraifft goncrid o'r cyfaddawd: dim ond dal rhan o destun AI tra'n dal i gamlabelu testun dynol weithiau [1].

Mae ysgrifennu bob dydd yn llawn dryswch:

• golygu trwm

• templedi

• tôn dechnegol

• ymadrodd anfrodorol

• atebion byr

• fformatio academaidd anhyblyg

• “Ysgrifennais hwn am 2am ac roedd fy ymennydd yn dost” egni

Felly gallai synhwyrydd fod yn ymateb i arddull, nid tarddiad. Mae fel ceisio adnabod pwy wnaeth bobi cacen trwy edrych ar friwsion. Weithiau gallwch chi ddyfalu. Weithiau rydych chi'n barnu naws briwsion yn unig.

Sut mae synwyryddion AI yn gweithio (a pham maen nhw'n torri) 🧠🔧

Mae'r rhan fwyaf o'r "synhwyryddion AI" y byddwch chi'n dod ar eu traws yn y gwyllt yn rhannu'n ddau ddull eang:

1) Canfod yn seiliedig ar arddull (dyfalu o batrymau testun)

Mae hyn yn cynnwys dulliau “dosbarthwr” clasurol a dulliau rhagweladwyedd/dryswch. Mae'r offeryn yn dysgu signalau ystadegol sy'n tueddu i ymddangos mewn allbynnau model penodol… ac yna mae'n cyffredinoli.

Pam mae'n torri:

• Gall ysgrifennu dynol edrych yn "ystadegol" hefyd (yn enwedig ysgrifennu ffurfiol, wedi'i yrru gan rubrics, neu wedi'i dempledu).

• Mae ysgrifennu modern yn aml yn gymysg (dynol + golygiadau + awgrymiadau AI + offer gramadeg).

• Gall offer ddod yn rhy hyderus y tu allan i'w parth cysur profi. [1]

2) Tarddiad / dyfrnodi (gwirio, nid dyfalu)

Yn lle ceisio casglu awduraeth o “ddirgelwch briwsion”, mae systemau tarddiad yn ceisio atodi prawf-o-darddiad , neu fewnosod signalau y gellir eu gwirio’n ddiweddarach.

Mae gwaith NIST ar gynnwys synthetig yn pwysleisio realiti allweddol yma: mae gan hyd yn oed synwyryddion dyfrnod ganlyniadau positif ffug a negatif ffug nad ydynt yn sero - ac mae dibynadwyedd yn dibynnu a yw'r dyfrnod yn goroesi'r daith o greu → golygu → ail-bostio → sgrinluniau → prosesu platfform. [2]

Felly ie, mae tarddiad yn lanach mewn egwyddor… ond dim ond pan fydd yr ecosystem yn ei gefnogi o'r dechrau i'r diwedd.

Y dulliau methiant mawr: positifau ffug a negatifau ffug 😬🫥

Dyma galon y cyfan. Os ydych chi eisiau gwybod a yw synwyryddion AI yn ddibynadwy, mae'n rhaid i chi ofyn: dibynadwy am ba gost?

Positifau ffug (dyn wedi'i nodi fel AI) 😟

Dyma'r senario hunllefus mewn ysgolion a gweithleoedd: mae bod dynol yn ysgrifennu rhywbeth, yn cael ei farcio, ac yn sydyn maen nhw'n amddiffyn eu hunain yn erbyn rhif ar sgrin.

Dyma batrwm poenus o gyffredin:

Mae myfyriwr yn cyflwyno myfyrdod byr (dyweder, cwpl o gannoedd o eiriau).
Mae synhwyrydd yn poeri sgôr sy'n edrych yn hyderus.
Mae pawb yn panicio.
Yna rydych chi'n dysgu bod yr offeryn ei hun yn rhybuddio y gall cyflwyniadau byr fod yn llai dibynadwy - ac na ddylid defnyddio'r sgôr fel yr unig sail ar gyfer gweithredu anffafriol. [3]

Mae canllawiau Turnitin ei hun (yn ei nodiadau rhyddhau / dogfennaeth) yn rhybuddio'n benodol y gallai cyflwyniadau o dan 300 gair fod yn llai cywir, ac yn atgoffa sefydliadau i beidio â defnyddio'r sgôr AI fel yr unig sail ar gyfer camau gweithredu niweidiol yn erbyn myfyriwr. [3]

Mae canlyniadau positif ffug hefyd yn tueddu i ymddangos wrth ysgrifennu:

• rhy ffurfiol

• ailadroddus yn ôl dyluniad (rubrigau, adroddiadau, templedi brand)

• byr (llai o signal, mwy o ddyfalu)

• wedi'i brawfddarllen a'i sgleinio'n drwm

Gall synhwyrydd ddweud yn y bôn: “Mae hyn yn edrych fel y mathau o destun rydw i wedi'i weld o AI” hyd yn oed os nad yw. Nid yw hynny'n ddrwgdybiaeth. Dim ond paru patrymau gyda llithrydd hyder ydyw.

Negyddion ffug (heb ei nodi gan AI) 🫥

Os bydd rhywun yn defnyddio AI ac yn golygu'n ysgafn - aildrefnu, parafrasio, neu ychwanegu rhai lympiau dynol - gall synwyryddion ei golli. Hefyd, bydd offer sydd wedi'u tiwnio i osgoi cyhuddiadau ffug yn aml yn colli mwy o destun AI trwy ddylunio (dyna'r cyfaddawd trothwy). [1]

Felly gallwch chi orffen gyda'r cyfuniad gwaethaf:

• mae awduron diffuant weithiau'n cael eu fflagio

• yn aml nid yw twyllwyr penderfynol yn gwneud hynny

Nid bob amser. Ond yn ddigon aml fel bod defnyddio synwyryddion fel "prawf" yn beryglus.

Beth sy'n gwneud synhwyrydd "da" (hyd yn oed os nad yw synwyryddion yn berffaith) ✅🧪

Os ydych chi'n mynd i ddefnyddio un beth bynnag (oherwydd bod sefydliadau'n gwneud pethau sefydliadol), mae trefniant da yn edrych llai fel "barnwr + rheithgor" ac yn fwy fel "brysbennu + tystiolaeth"

Mae trefniant cyfrifol yn cynnwys:

• Cyfyngiadau tryloyw (rhybuddion testun byr, terfynau parth, ystodau hyder) [1][3]

• Trothwyon clir + ansicrwydd fel canlyniad dilys (ni ddylai “dydyn ni ddim yn gwybod” fod yn dabŵ)

• Tystiolaeth o adolygiadau a phrosesau dynol (drafftiau, amlinelliadau, hanes adolygu, ffynonellau a ddyfynnwyd)

• Polisïau sy'n annog penderfyniadau cosbol, sgorio yn unig yn benodol [3]

• Amddiffyniadau preifatrwydd (peidiwch â thwnelu ysgrifennu sensitif i ddangosfyrddau bras)

Tabl Cymharu: dulliau canfod vs gwirio 📊🧩

Mae gan y bwrdd hwn ychydig o gwiliadau yn fwriadol, oherwydd dyna sut mae byrddau'n tueddu i edrych pan fyddai dyn wedi'u gwneud wrth sipian te oer ☕.

Synwyryddion mewn addysg 🎓📚

Addysg yw'r amgylchedd anoddaf i synwyryddion oherwydd bod y niwed yn bersonol ac yn uniongyrchol.

Yn aml, dysgir myfyrwyr i ysgrifennu mewn ffyrdd sy'n edrych yn "fformiwlaidd" oherwydd eu bod yn cael eu graddio'n llythrennol ar strwythur:

• datganiadau traethawd ymchwil

• templedi paragraff

• tôn gyson

• trawsnewidiadau ffurfiol

Felly gall synwyryddion gosbi myfyrwyr am… ddilyn y rheolau.

Os yw ysgol yn defnyddio synwyryddion, y dull mwyaf amddiffynadwy fel arfer yw:

• synwyryddion fel triage yn unig

• dim cosbau heb adolygiad dynol

• cyfleoedd i fyfyrwyr esbonio eu proses

• hanes drafft / amlinelliadau / ffynonellau fel rhan o werthusiad

• dilyniannau llafar lle bo'n briodol

Ac ie, gall dilyniannau llafar deimlo fel holi. Ond gallant fod yn decach na “mae'r robot yn dweud eich bod wedi twyllo,” yn enwedig pan fydd y synhwyrydd ei hun yn rhybuddio yn erbyn penderfyniadau sgôr yn unig. [3]

Synwyryddion ar gyfer cyflogi ac ysgrifennu yn y gweithle 💼✍️

Mae ysgrifennu yn y gweithle yn aml yn:

• wedi'i dempledu

• wedi'i sgleinio

• ailadroddus

• wedi'i olygu gan sawl person

Mewn geiriau eraill: gall edrych yn algorithmig hyd yn oed pan mae'n ddynol.

Os ydych chi'n cyflogi, dull gwell na phwyso ar sgôr synhwyrydd yw:

• gofyn am ysgrifennu sy'n gysylltiedig â thasgau swydd go iawn

• ychwanegu dilyniant byw byr (hyd yn oed 5 munud)

• gwerthuso rhesymu ac eglurder, nid dim ond “arddull”

• caniatáu i ymgeiswyr ddatgelu rheolau cymorth AI ymlaen llaw

Mae ceisio “canfod AI” mewn llif gwaith modern fel ceisio canfod a ddefnyddiodd rhywun wirydd sillafu. Yn y pen draw rydych chi'n sylweddoli bod y byd wedi newid tra nad oeddech chi'n edrych. [1]

Synwyryddion ar gyfer cyhoeddwyr, SEO, a chymedroli 📰📈

Gall synwyryddion fod yn ddefnyddiol ar gyfer dosbarthu swp: nodi pentyrrau amheus o gynnwys i'w hadolygu gan bobl.

Ond mae golygydd dynol gofalus yn aml yn dal problemau "deallusrwydd artiffisial" yn gyflymach na synhwyrydd, oherwydd bod golygyddion yn sylwi:

• honiadau amwys heb unrhyw fanylion penodol

• tôn hyderus heb unrhyw dystiolaeth

• gwead concrit ar goll

• ymadrodd “wedi’i ymgynnull” nad yw’n swnio fel rhywbeth sy’n cael ei fyw ynddo

A dyma’r tro: nid uwch-bŵer hudolus yw hwnnw. Greddf olygyddol am signalau ymddiriedaeth.

Dewisiadau amgen gwell na chanfod pur: tarddiad, proses, a “dangoswch eich gwaith” 🧾🔍

Os yw synwyryddion yn annibynadwy fel prawf, mae opsiynau gwell yn tueddu i edrych llai fel un sgôr a mwy fel tystiolaeth haenog.

1) Tystiolaeth brosesu (yr arwr di-nod) 😮💨✅

• drafftiau

• hanes adolygu

• nodiadau ac amlinelliadau

• dyfyniadau a llwybrau ffynhonnell

• rheoli fersiynau ar gyfer ysgrifennu proffesiynol

2) Gwiriadau dilysrwydd nad ydyn nhw'n "gael" 🗣️

• “Pam wnaethoch chi ddewis y strwythur hwn?”

• “Pa ddewis arall wnaethoch chi ei wrthod a pham?”

• “Eglurwch y paragraff hwn i rywun iau.”

3) Safonau tarddiad + dyfrnodi lle bo modd 🧷💧

Mae Manylion Cynnwys C2PA wedi'u cynllunio i helpu cynulleidfaoedd i olrhain tarddiad a hanes golygu cynnwys digidol (meddyliwch: cysyniad "label maeth" ar gyfer cyfryngau). [4]
Yn y cyfamser, mae ecosystem SynthID Google yn canolbwyntio ar ddyfrnodi a chanfod yn ddiweddarach ar gyfer cynnwys a gynhyrchir gydag offer Google a gefnogir (a phorth synhwyrydd sy'n sganio uwchlwythiadau ac yn tynnu sylw at ranbarthau tebygol â dyfrnodi). [5]

Dulliau gwirio yw'r rhain - nid yn berffaith, nid yn gyffredinol, ond yn pwyntio i gyfeiriad cliriach na "dyfalu o'r dirgryniadau". [2]

4) Polisïau clir sy'n cyd-fynd â realiti 📜

Mae “Mae AI wedi’i wahardd” yn syml… ac yn aml yn afrealistig. Mae llawer o sefydliadau’n symud tuag at:

• “Roedd AI yn caniatáu ar gyfer ystormio syniadau, nid drafftio terfynol”

• “Caniateir deallusrwydd artiffisial os caiff ei ddatgelu”

• “Roedd AI yn caniatáu gramadeg ac eglurder, ond rhaid i resymu gwreiddiol fod yn eiddo i chi”

Ffordd gyfrifol o ddefnyddio synwyryddion AI (os oes rhaid) ⚖️🧠

1. Defnyddiwch synwyryddion fel baner yn unig
   . Nid fel dyfarniad. Nid fel sbardun cosb. [3]

2. Gwiriwch y math o destun
   Ateb byr? Rhestr fwledi? Wedi'i olygu'n helaeth? Disgwyl canlyniadau mwy swnllyd. [1][3]

3. Chwiliwch am dystiolaeth seiliedig ar
   ddrafftiau, cyfeiriadau, llais cyson dros amser, a gallu'r awdur i esbonio dewisiadau.

4. Tybiwch fod awduraeth gymysg yn normal nawr
   Bodau dynol + golygyddion + offer gramadeg + awgrymiadau AI + templedi yw… dydd Mawrth.

5. Peidiwch byth â dibynnu ar un rhif
   Mae sgoriau sengl yn annog penderfyniadau diog - a phenderfyniadau diog yw sut mae cyhuddiadau ffug yn digwydd. [3]

Nodyn cloi ✨

Felly, mae'r darlun dibynadwyedd fel hyn:

• Dibynadwy fel awgrym bras: weithiau ✅

• Dibynadwy fel prawf: na ❌

• Yn ddiogel fel yr unig sail ar gyfer cosb neu dynnu i lawr: ddim o gwbl 😬

Trin synwyryddion fel larwm mwg:

• gall awgrymu y dylech edrych yn agosach

• ni all ddweud wrthych chi yn union beth ddigwyddodd

• ni all ddisodli tystiolaeth ymchwiliad, cyd-destun a phroses

Mae peiriannau gwirionedd un clic yn bennaf ar gyfer ffuglen wyddonol. Neu hysbysebion gwybodaeth.

Enghraifft o'r byd go iawn: Defnyddio synhwyrydd AI fel signal adolygu mewn ysgol 🎓🔍

Senario

Mae gan athro Saesneg chweched dosbarth 28 o draethodau i'w hadolygu. Mae'r ysgol yn caniatáu offer gramadeg, ond nid cyflwyniadau wedi'u hysgrifennu'n llawn gan AI. Yn hytrach na thrin sgôr synhwyrydd AI fel prawf, mae'r athro'n ei ddefnyddio fel signal dosbarthu.

Nid yw'r nod i "dal" myfyrwyr drwy un sgôr yn unig. Y nod yw penderfynu pa gyflwyniadau sydd angen sylw manwl, yna cymharu pob traethawd â thystiolaeth o'r broses: nodiadau amlinellol, rhestr ffynonellau, hanes drafft, ac esboniad byr gan y myfyriwr.

Yr hyn sydd ei angen ar yr athro

Gallai trefniant ymarferol gynnwys:

• y traethawd terfynol

• amlinelliad neu nodiadau cynllunio'r myfyriwr

• hanes fersiynau o Google Docs, Word, neu system rheoli dysgu'r ysgol

• briff yr aseiniad a'r rubric marcio

• unrhyw bolisi defnyddio AI a roddwyd i'r myfyrwyr

• un myfyrdod byr gan y myfyriwr: “Sut wnaethoch chi adeiladu’r ddadl hon?”

Cyfarwyddyd enghreifftiol

Cyn adolygu, gallai'r athro ddefnyddio rhestr wirio fel hon:

Defnyddiwch sgôr y synhwyrydd fel baner adolygu yn unig. Peidiwch â'i drin fel tystiolaeth o gamymddwyn. Cymharwch y traethawd terfynol â nodiadau'r myfyriwr, drafftiau cynharach, dyfyniadau, a'r gallu i esbonio eu dewisiadau. Os yw'r testun o dan 300 gair, wedi'i dempledu'n helaeth, neu wedi'i ysgrifennu mewn arddull ffurfiol iawn, marciwch ganlyniad y synhwyrydd fel un â hyder isel. Uwchraddiwch dim ond pan fydd sawl signal yn pwyntio i'r un cyfeiriad.

Sut i'w brofi

Gallai ysgol gynnal prawf mewnol bach cyn defnyddio unrhyw synhwyrydd mewn achosion go iawn:

1. Casglwch 10 sampl hysbys a ysgrifennwyd gan ddyn gyda hanes drafftiau.

2. Casglwch 5 sampl a gynhyrchwyd gan AI a grëwyd ar gyfer profi.

3. Casglwch 5 sampl cymysg lle mae testun AI wedi'i olygu gan ddyn.

4. Rhedwch yr holl 20 sampl drwy'r synhwyrydd.

5. Cofnodwch ganlyniadau positif ffug, canlyniadau negatif ffug, ac achosion "ansicr".

6. Gofynnwch i ddau athro adolygu'r un samplau gan ddefnyddio drafftiau, nodiadau ac esboniadau myfyrwyr.

7. Cymharwch pa ddull a gynhyrchodd lai o faneri annheg.

Canlyniad

Canlyniad darluniadol: mewn prawf 20 sampl fel yr un uchod, gallai'r synhwyrydd nodi 7 darn o ysgrifennu fel rhai "deallusrwydd artiffisial tebygol". Ar ôl gwirio hanes drafftiau ac esboniadau myfyrwyr, gallai 3 o'r baneri hynny droi allan i fod yn bositifau ffug.

Mae hynny'n golygu bod y synhwyrydd yn edrych yn ddefnyddiol ar yr olwg gyntaf, ond byddai proses sgôr yn unig wedi herio 15% o gyfanswm y sampl yn anghywir. Cymerodd y llif gwaith mwy diogel fwy o amser - tua 8 munud fesul traethawd wedi'i fanio yn lle 1-2 funud ar gyfer gwiriad sgôr cyflym - ond rhoddodd ffordd i'r athro wahanu signalau gwan oddi wrth dystiolaeth gryfach.

Mae'r metrig yn hawdd i'w wirio: cyfrifwch gyflwyniadau wedi'u fflagio, cyfrifwch faint sy'n cael eu clirio ar ôl adolygu'r broses, ac olrhain amser adolygu fesul achos.

Beth all fynd o'i le

Y camgymeriad mwyaf yw trin dangosfwrdd synhwyrydd fel dyfarniad.

Mae camgymeriadau cyffredin eraill yn cynnwys:

• defnyddio synwyryddion ar atebion byr iawn

• anwybyddu patrymau ysgrifennu nad ydynt yn frodorol

• gan anghofio y gall ysgrifennu dynol caboledig edrych yn "debyg i AI"

• gan dybio bod “heb ei fflagio” yn golygu “yn bendant yn ddynol”

• methu â rhoi cyfle i fyfyrwyr esbonio eu gwaith

• defnyddio offer ysgrifennu preifat i fyfyrwyr heb wirio polisïau data

Tecawê ymarferol

Gall synhwyrydd helpu i benderfynu ble i edrych yn gyntaf, ond ni ddylai byth benderfynu beth ddigwyddodd. Y cwestiwn tecach yw nid “Pa sgôr a roddodd yr offeryn?” ond “A all y myfyriwr ddangos sut y daeth y gwaith hwn at ei gilydd?”

Cwestiynau Cyffredin

A yw synwyryddion testun AI yn ddibynadwy ar gyfer profi bod rhywun wedi defnyddio AI?

Nid yw synwyryddion testun AI yn brawf dibynadwy o awduraeth. Gallant fod yn arwydd cyflym y gallai rhywbeth fod yn haeddu adolygiad, yn enwedig gyda samplau hirach, ond gall yr un sgôr fod yn anghywir i'r naill gyfeiriad neu'r llall. Mewn sefyllfaoedd peryglus, mae'r erthygl yn argymell trin allbwn synhwyrydd fel awgrym, nid tystiolaeth, ac osgoi unrhyw benderfyniad sy'n dibynnu ar un rhif.

Pam mae synwyryddion AI yn nodi ysgrifennu dynol fel AI?

Mae canlyniadau positif ffug yn digwydd pan fydd synwyryddion yn ymateb i arddull yn hytrach na tharddiad. Gall ysgrifennu ffurfiol, wedi'i dempledu, wedi'i sgleinio'n dda, neu fyr ddarllen fel "ystadegol" a sbarduno sgoriau hyderus hyd yn oed os yw'n gwbl ddynol. Mae'r erthygl yn nodi bod hyn yn arbennig o gyffredin mewn amgylcheddau fel ysgol neu waith lle mae strwythur, cysondeb ac eglurder yn cael eu gwobrwyo, a all fod yn debyg yn anfwriadol i batrymau y mae synwyryddion yn eu cysylltu ag allbwn AI.

Pa fath o ysgrifennu sy'n gwneud canfod AI yn llai cywir?

Mae samplau byr, testun wedi'i olygu'n drwm, fformatio academaidd technegol neu anhyblyg, ac ymadrodd nad yw'n frodorol yn tueddu i gynhyrchu canlyniadau mwy swnllyd. Mae'r erthygl yn pwysleisio bod ysgrifennu bob dydd yn cynnwys llawer o ddryswch - templedi, prawfddarllen, ac offer drafftio cymysg - sy'n drysu systemau sy'n seiliedig ar batrymau. Yn yr achosion hyn, mae "sgôr AI" yn agosach at ddyfaliad simsan nag at fesuriad dibynadwy.

A all rhywun osgoi synwyryddion testun AI trwy ail-adrodd?

Ydy, mae negatifau ffug yn gyffredin pan fydd testun AI yn cael ei olygu'n ysgafn. Mae'r erthygl yn egluro y gall aildrefnu brawddegau, paraffrasio, neu gyfuno drafftio dynol ac AI leihau hyder y synhwyrydd a gadael i waith â chymorth AI lithro drwodd. Yn aml, mae synwyryddion sydd wedi'u tiwnio i osgoi cyhuddiadau ffug yn colli mwy o gynnwys AI trwy ddylunio, felly nid yw "heb ei nodi" yn golygu "yn bendant yn ddynol"

Beth yw'r dewis arall mwy diogel yn lle dibynnu ar sgoriau synhwyrydd AI?

Mae'r erthygl yn argymell prawf proses yn hytrach na dyfalu patrymau. Mae hanes drafftiau, amlinelliadau, nodiadau, ffynonellau a ddyfynnwyd, a llwybrau adolygu yn darparu tystiolaeth fwy pendant o awduraeth na sgôr canfod. Mewn llawer o lif gwaith, mae "dangos eich gwaith" yn decach ac yn anoddach i'w gamarwain. Mae tystiolaeth haenog hefyd yn lleihau'r risg o gosbi awdur dilys oherwydd dosbarthiad awtomataidd camarweiniol.

Sut ddylai ysgolion ddefnyddio synwyryddion AI heb niweidio myfyrwyr?

Mae addysg yn lleoliad risg uchel oherwydd bod y canlyniadau'n bersonol ac yn uniongyrchol. Mae'r erthygl yn dadlau y dylai synwyryddion fod yn flaenoriaethau yn unig, byth yn sail i gosbau heb adolygiad dynol. Mae dull amddiffynadwy yn cynnwys gadael i fyfyrwyr esbonio eu proses, ystyried drafftiau ac amlinelliadau, a defnyddio dilyniannau pan fo angen - yn hytrach na thrin sgôr fel dyfarniad, yn enwedig ar gyflwyniadau byr.

A yw synwyryddion AI yn addas ar gyfer recriwtio ac ysgrifennu samplau yn y gweithle?

Maent yn beryglus fel offeryn porthori oherwydd bod ysgrifennu yn y gweithle yn aml yn cael ei fireinio, ei dempledu, a'i olygu gan nifer o bobl, a all edrych yn "algorithmig" hyd yn oed pan mae'n ddynol. Mae'r erthygl yn awgrymu dewisiadau amgen gwell: tasgau ysgrifennu sy'n berthnasol i'r swydd, dilyniannau byw byr, a gwerthuso rhesymu ac eglurder. Mae hefyd yn nodi bod awduraeth gymysg yn gynyddol normal mewn llifau gwaith modern.

Beth yw'r gwahaniaeth rhwng canfod AI a tharddiad neu ddyfrnodi?

Mae canfod yn ceisio casglu awduraeth o batrymau testun, a all ddrysu arddull â tharddiad. Nod tarddiad a dyfrnodi yw gwirio o ble ddaeth cynnwys gan ddefnyddio metadata neu signalau wedi'u hymgorffori y gellir eu gwirio'n ddiweddarach. Mae'r erthygl yn tynnu sylw at y ffaith nad yw hyd yn oed y dulliau gwirio hyn yn berffaith - gellir colli signalau trwy olygu neu ailbostio - ond maent yn lanach yn gysyniadol pan gânt eu cefnogi o'r dechrau i'r diwedd.

Sut olwg sydd ar drefniant synhwyrydd AI “cyfrifol”?

Mae'r erthygl yn fframio defnydd cyfrifol fel "brysbennu + tystiolaeth," nid "barnwr + rheithgor." Mae hynny'n golygu cyfyngiadau tryloyw, derbyn ansicrwydd, adolygiad dynol, a llwybr apelio cyn canlyniadau. Mae hefyd yn galw am wirio'r math o destun (byr yn erbyn hir, wedi'i olygu yn erbyn crai), blaenoriaethu tystiolaeth seiliedig fel drafftiau a ffynonellau, ac osgoi canlyniadau cosbol, sgôr yn unig a all arwain at gyhuddiadau ffug.

Cyfeiriadau

[1] OpenAI - Dosbarthwr AI newydd ar gyfer nodi testun a ysgrifennwyd gan AI (yn cynnwys cyfyngiadau + trafodaeth werthuso) - darllen mwy
[2] NIST - Lleihau Risgiau a Berir gan Gynnwys Synthetig (NIST AI 100-4) - mwy
[3] Turnitin - model canfod ysgrifennu AI (yn cynnwys rhybuddion ar destun byr + peidio â defnyddio sgôr fel unig sail ar gyfer gweithredu anffafriol) - darllen mwy
[4] C2PA - Trosolwg o Gymwysterau Cynnwys / C2PA - darllen mwy
[5] Google - SynthID Detector - porth i helpu i nodi cynnwys a gynhyrchwyd gan AI - darllen mwy

Dewch o hyd i'r AI Diweddaraf yn y Siop Swyddogol ar gyfer Cynorthwywyr AI

Amdanom Ni