🏫 Mewn rhai ysgolion, mae robotiaid sgwrsio yn holi myfyrwyr am eu gwaith. Ond mae'r chwyldro deallusrwydd artiffisial yn peri pryder i athrawon ↗
Mae rhai ysgolion yn Awstralia yn treialu tro mwy miniog ar “dangoswch eich gwaith” - mae myfyrwyr yn gorffen aseiniad, yna mae sgwrsbot AI yn eu holi mewn sgwrs yn ôl ac ymlaen i wirio eu bod yn deall yr hyn a gyflwynwyd ganddynt. Yn y bôn, mae'n arholiad llafar, ond gyda pheiriant yn gofyn “beth wyt ti'n ei olygu wrth hynny?” nes i chi ddechrau ysgwyd.
Y pryder mwyaf yw'r broses gyflwyno anwastad: mae papur yn y diwydiant yn rhybuddio y gallai'r rhai sy'n mabwysiadu'n gyflym ruthro ymlaen tra bod eraill ar ei hôl hi, gan greu system addysg dau gyflymder. Mae athrawon hefyd yn parhau i dynnu sylw at y pryderon cyfarwydd - ac sy'n dal yn ddifrifol: preifatrwydd, lles, a sut i atal "help AI" rhag llithro i "gwnaeth AI fe".
👮 Heddlu wedi cwrdd â nhw gan ddefnyddio offer deallusrwydd artiffisial a gyflenwyd gan Palantir i nodi camymddygiad swyddogion ↗
Mae Met Llundain yn defnyddio deallusrwydd artiffisial a gyflenwir gan Palantir i ddadansoddi patrymau mewnol y gweithlu - salwch, absenoldebau, goramser - gan chwilio am arwyddion a allai gydberthyn â materion safonau proffesiynol. Fe'i cynigir fel cynllun peilot â chyfyngiad amser ac, yn hollbwysig, mae'r Met yn dweud bod bodau dynol yn dal i wneud y penderfyniadau gwirioneddol ... ond bod hynny "o hyd" yn gwneud llawer o waith.
Nid yw Ffederasiwn yr Heddlu wrth ei fodd, gan ei alw'n "amheuaeth awtomataidd" a rhybuddio am offer anhryloyw yn camddeall straen a llwyth gwaith fel camwedd. Mae'n un o'r adegau hynny lle mae'r dechnoleg yn swnio'n daclus ar sleid, yna rydych chi'n dychmygu sut mae'n teimlo ar lawr gwlad ac mae'n troi'n bigog yn sydyn.
🛡️ Mae corff gwarchod preifatrwydd y DU yn rhybuddio ynghylch delweddau a gynhyrchwyd gan AI mewn datganiad ar y cyd ↗
Ymunodd ICO y DU â rheoleiddwyr eraill mewn rhybudd ar y cyd am ddelweddau a gynhyrchir gan AI sy'n darlunio pobl adnabyddadwy heb ganiatâd - yn y bôn: peidiwch â thrin "mae'n synthetig" fel esgus hud. Y neges yw adeiladu mesurau diogelwch yn gynnar ac ymgysylltu â rheoleiddwyr yn lle gwneud y symudiad technoleg clasurol o gludo yn gyntaf ac ymddiheuro yn ddiweddarach.
Maen nhw hefyd yn tynnu sylw at risgiau uwch i blant, sy'n gwneud synnwyr, oherwydd unwaith y bydd y pethau hyn yn lledaenu mae fel ceisio rhoi gliter yn ôl i mewn i jar. Y prif bwnc yw bod preifatrwydd ac urddas i fod i oroesi'r cylch ffasiwn, neu dyna mae'n ymddangos.
🪖 Ysgrifennydd Amddiffyn yr Unol Daleithiau Hegseth yn galw Prif Swyddog Gweithredol Anthropic ar gyfer trafodaethau anodd ynghylch defnydd milwrol Claude, yn ôl adroddiad Axios ↗
Mae Reuters yn adrodd bod Ysgrifennydd Amddiffyn yr Unol Daleithiau ar fin cwrdd â Phrif Swyddog Gweithredol Anthropic ar gyfer yr hyn a ddisgrifir fel sgwrs fwy gwrthdaro ynghylch defnydd milwrol o Claude. Yn ôl y sôn, mae'r Pentagon eisiau i ddarparwyr AI mawr wneud modelau ar gael ar rwydweithiau cyfrinachol gyda llai o gyfyngiadau - ac mae Anthropic wedi bod yn gwrthsefyll unrhyw lacio ar ddiogelwch.
Mae'r is-destun yn darllen fel problem glasurol "symud yn gyflym ond ... gyda thaflegrau yn gysylltiedig". Os na all y partïon gytuno ar reiliau gwarchod, gallai'r berthynas fod dan straen neu hyd yn oed chwalu - ond mae Anthropic hefyd yn signalu bod y trafodaethau gyda'r llywodraeth yn parhau i fod yn adeiladol, felly mae'n destunau llawn tyndra, ond nid testunau torri i fyny llawn (eto).
🧠 Nodiadau Rhyddhau ChatGPT ↗
Mae nodiadau rhyddhau OpenAI yn cyfeirio at ffenestr gyd-destun estynedig ar gyfer y modd “Meddwl” - sy'n golygu y gallwch chi fwydo mwy o destun i'r model a chadw edafedd hirach yn gydlynol heb iddo gollwng manylion cynharach. Os ydych chi erioed wedi gweld model yn “anghofio” rhywbeth rydych chi newydd ei ddweud (poen), mae hwn wedi'i anelu at hynny.
Mae'n uwchraddiad nerdaidd iawn sy'n newid yn dawel beth sy'n ymarferol: dogfennau hirach, prosiectau mwy cymhleth, sesiynau ymchwil mwy ymestynnol. Nid yw'n hudolus, ond dyma'r math o newid plymio sy'n gwneud i'r tŷ cyfan deimlo'n fwy yn sydyn.
Cwestiynau Cyffredin
Beth mae'n ei olygu pan fydd ysgolion yn defnyddio robotiaid sgwrsio i "holi" myfyrwyr am aseiniadau?
Mewn rhai ysgolion yn Awstralia, mae myfyrwyr yn cwblhau aseiniad ac yna'n mynd trwy sgwrs yn ôl ac ymlaen gyda chatbot AI sy'n archwilio eu rhesymeg. Mae'n gweithio fel arholiad llafar, gan bwyso ar fyfyrwyr i esbonio'r hyn a ysgrifennwyd ganddynt a pham. Y pwrpas yw gwirio dealltwriaeth, nid dim ond allbwn. Gall hefyd ddatgelu bylchau pan na all myfyriwr amddiffyn honiadau allweddol.
Sut gallai sgwrsio robotiaid deallusrwydd artiffisial mewn ysgolion greu system addysg “dau gyflymder”?
Mae papur diwydiant yn rhybuddio y gallai mabwysiadwyr cyflym dynnu ar y blaen tra bod ysgolion sy'n symud yn arafach yn llithro ymhellach yn ôl. Os bydd rhai ysgolion yn defnyddio offer AI i asesu dealltwriaeth, cefnogi dysgu, neu atal camddefnydd, efallai y byddant yn gwella canlyniadau yn gynt. Efallai y bydd eraill yn brin o gyllideb, capasiti staff, neu eglurder polisi i gyflwyno systemau cymharol. Gall y defnydd anghyfartal hwnnw ehangu bylchau adnoddau a chyrhaeddiad presennol.
Sut mae athrawon yn ceisio atal “help AI” rhag troi’n “Gwnaeth AI fe”?
Dull cyffredin yw symud asesu tuag at broses ac esboniad, nid dim ond y cynnyrch gorffenedig. Gall holi, drafftiau, myfyrdodau neu wiriadau llafar arddull chatbot ei gwneud hi'n anoddach cyflwyno gwaith nad ydych chi'n ei ddeall. Gall athrawon hefyd osod ffiniau mwy cadarn ar gymorth derbyniol, fel meddwl am syniadau yn hytrach nag ailysgrifennu'n llawn. Mae'r pwyslais yn parhau ar ddangos dealltwriaeth, nid plismona pob offeryn.
Pa broblemau preifatrwydd a lles sy'n codi pan ddefnyddir deallusrwydd artiffisial mewn ystafelloedd dosbarth?
Mae athrawon yn parhau i godi pryderon ynghylch pa ddata myfyrwyr sy'n cael ei gasglu, ble mae'n cael ei storio, a phwy all gael mynediad iddo. Mae pryderon lles hefyd os yw myfyrwyr yn teimlo eu bod yn cael eu monitro neu eu pwyso'n barhaus gan gwestiynau a arweinir gan beiriannau. Mae plant yn grŵp risg arbennig, oherwydd gall gwybodaeth sensitif ledaenu neu barhau mewn systemau mewn ffyrdd annisgwyl. Mae llawer o ysgolion yn anelu at roi mesurau diogelwch ar waith yn gynnar yn hytrach na cheisio eu hôl-osod yn ddiweddarach.
Sut mae'r Met yn defnyddio deallusrwydd artiffisial a gyflenwir gan Palantir i nodi camymddygiad posibl gan swyddogion?
Mae Met Llundain yn defnyddio deallusrwydd artiffisial a gyflenwyd gan Palantir i ddadansoddi patrymau gweithlu fel salwch, absenoldebau a goramser. Y nod yw canfod arwyddion a allai gydberthyn â materion safonau proffesiynol. Fe'i disgrifir fel peilot â chyfyngiad amser, ac mae'r Met yn dweud bod bodau dynol yn dal i wneud y penderfyniadau. Mae beirniaid yn dadlau y gall yr offeryn deimlo fel "amheuaeth awtomataidd" os yw'n darllen straen fel camwedd.
Pam mae undebau heddlu’n poeni am “amheuaeth awtomataidd” o offer goruchwylio AI?
Pryder Ffederasiwn yr Heddlu yw y gallai modelau anhryloyw ddeillio o gamymddwyn o batrymau sydd ag esboniadau diniwed. Gall pigau llwyth gwaith, problemau iechyd a straen newid presenoldeb neu oramser heb awgrymu camwedd. Os nad yw rhesymeg yr offeryn yn dryloyw, mae'n anoddach i swyddogion herio baneri neu i reolwyr galibro trothwyon teg. Hyd yn oed gyda phenderfyniadau dynol, gall signalau awtomataidd lunio canlyniadau o hyd.
Beth yw rhybudd ICO y DU ynglŷn â delweddau o bobl adnabyddadwy a gynhyrchwyd gan AI?
Ymunodd corff gwarchod preifatrwydd y DU â rheoleiddwyr eraill i rybuddio nad yw “synthetig” yn golygu heb ganlyniadau. Os yw delwedd a gynhyrchir gan AI yn darlunio person adnabyddadwy heb ganiatâd, mae risgiau preifatrwydd ac urddas yn dal i fod yn berthnasol. Mae rheoleiddwyr yn pwysleisio adeiladu mesurau diogelwch yn gynnar ac ymgysylltu â goruchwyliaeth yn hytrach na'u hanfon yn gyntaf. Maent hefyd yn tynnu sylw at risgiau uwch i blant, lle gall niwed gynyddu'n gyflym unwaith y bydd cynnwys yn lledaenu.
Beth sydd y tu ôl i'r pwysau a adroddwyd gan y Pentagon ar Anthropic ynghylch defnydd milwrol o Claude?
Mae Reuters yn adrodd bod Ysgrifennydd Amddiffyn yr Unol Daleithiau ar fin cwrdd â Phrif Swyddog Gweithredol Anthropic ar gyfer trafodaethau llymach ar ddefnydd milwrol o Claude. Yn ôl y sôn, mae'r Pentagon eisiau i ddarparwyr AI mawr wneud modelau ar gael ar rwydweithiau cyfrinachol gyda llai o gyfyngiadau. Mae Anthropic wedi bod yn gwrthsefyll diogelwch llacach, gan bwyntio at wrthdaro dros reiliau gwarchod. Mae'r berthynas yn swnio'n densiwn, er bod y ddwy ochr yn arwyddo bod y trafodaethau'n parhau i fod yn adeiladol.
Beth newidiodd yn nodiadau rhyddhau ChatGPT ynglŷn â hyd cyd-destun modd “Meddwl”?
Mae nodiadau rhyddhau OpenAI yn cyfeirio at ffenestr gyd-destun estynedig ar gyfer y modd "Meddwl", gan ganiatáu i fwy o destun eistedd o fewn un edau. Yn ymarferol, gall hynny helpu gyda dogfennau hir, prosiectau cymhleth, ac ymchwil aml-gam lle mae manylion cynharach yn bwysig. Mae'n uwchraddiad arddull plymio yn hytrach na nodwedd fflachlyd. Y prif fantais yw llai o fanylion yn cael eu gollwng dros sesiynau hirach.