Prif Swyddog Gweithredol Anthropic yn amlinellu cynllun i arafu datblygiad AI
Mae Dario Amodei newydd ofyn i'r diwydiant… arafu. Nid stopio. Cyflymder. Traethawd hir, tair cam, a rhybudd bod hunan-welliant dychweliadol eisoes yn coginio'n gyflymach nag y gall yr oedolion ei archwilio.
Mae Anthropic yn gwahodd gwerthuswyr mewnol yn unochrog y tu mewn i'r adeilad - bathodynnau, desgiau, gliniaduron, a'r hawl i gyhoeddi canfyddiadau heb hidlydd cysylltiadau cyhoeddus. Yna mae eisiau labordai democrataidd i gydlynu safonau diogelwch. Yna, rywsut, bargen gyda llywodraethau awdurdodaidd. Hawdd ar bapur. Anodd ym mhobman arall.
Mae'n dal i ddweud y gallai AI fod yn wyrth. Mae hefyd yn dweud y gallai haid anghymesur fwy galluog gymryd drosodd y rhyngrwyd gyda botnet parhaus a gwneud cannoedd o biliynau o ddifrod. Mae'r ddwy frawddeg hynny'n eistedd wrth ymyl ei gilydd ac nid ydyn nhw'n cyd-dynnu.
O - ac mae e eisiau ymwadiad gwrth-ymddiriedaeth cul fel nad yw'r sgyrsiau diogelwch yn broblem gyfreithiol eu hunain. Mae'r breciau'n dod gyda gwaith papur. Wrth gwrs eu bod nhw.
Mae Sam Altman yn cadarnhau na fydd OpenAI yn mynd yn gyhoeddus eleni, gan ddweud y byddai IPO nawr yn dod ar 'adeg annoeth' o ystyried pryderon diogelwch AI
Eisteddodd Altman i lawr am gyfweliad unigryw a lladdodd y calendr rhestru. Byddai IPO ar hyn o bryd, meddai, yn "foment annoeth." Nid yw gwaith diogelwch wedi'i wneud. Nid yw'r aliniad wedi'i wneud. Nid yw cymdeithas yn barod. Pan wnaethon nhw ei bwyso - nid eleni.
Roedd y bancwyr eisoes yn cylchu. Mae'r ffeilio cyfrinachol yn bodoli. Nawr mae'r Prif Swyddog Gweithredol yn dweud bod ganddyn nhw lawer o bethau i'w gwneud yn gyntaf, gan gynnwys darganfod sut mae diwydiant a llywodraethau hyd yn oed yn gweithio gyda'i gilydd. Roedd bron yn swnio'n rhyddhad i aros.
Dywedodd hefyd fod adeiladu AI y tu hwnt i reolaeth ddynol yn "hollol" bosibl - yna addawodd y byddai'n oedi hyfforddiant os mai dyna'r llwybr. Yn feiddgar. Hefyd yn gyfleus, efallai. O bosibl y ddau. Mae'r ddrysfa elusennol / er elw, dadleuodd, yn bodoli er mwyn iddyn nhw allu gwneud galwadau nad ydyn nhw'n amlwg er budd cyfranddalwyr. Fe welwn ni a yw'r frawddeg honno'n goroesi cyswllt â phrosbectws gwirioneddol.
Mae Sam Altman o OpenAI yn awgrymu cytundeb â chwmnïau AI eraill i fynd i'r afael â risgiau diogelwch
Yr un cyfweliad, pennawd gwahanol, a'r sibrwd yw hwn. Eistedd i lawr gydag Amodei, Musk, a Demis Hassabis yw'r cam nesaf naturiol. Altman: mae'n credu y bydd hynny'n digwydd. Ni fydd yn cyhoeddi sgyrsiau preifat ymlaen llaw. Yna, yn y bôn, fe'u cyhoeddodd ymlaen llaw.
Nid yw risg trychinebus dwy ddigid yn dderbyniol, meddai. Mae'r modelau sydd heb eu rhyddhau eto eisoes mor abl fel bod gwthio ymhellach heb fonitro gwell yn teimlo'n ddi-hid. Gall cytundeb go iawn ac awyrgylch sydd wedi'i ollwng yn ofalus edrych yn union yr un fath o'r tu allan.
Roedd y staff eisoes wedi clywed fersiwn o hyn yn fewnol. Yn gyhoeddus mae'n dal i fod yn niwl. Os bydd yr ystafell yn digwydd, gwych. Os na fydd, mae'r dyfyniad yn dal i wneud y gwaith.
Mae Sam Altman yn cefnogi galwad Dario Amodei i arafu, ac yn dweud y bydd OpenAI yn gwneud yr un peth
Oriau ar ôl yr ysgrif, postiodd Altman y byddai OpenAI yn cyfateb i addewid y gwerthuswr mewnosodedig. Mynediad tebyg i weithwyr. Mwy i'w rannu'n fuan. Ysgrifennodd Musk dair gair: "Mae Dario yn iawn." Tri Phrif Swyddog Gweithredol cystadleuol. Un slogan. Egni penwythnos anesmwyth.
Gall cydlynu a theatr deithio gyda'i gilydd. Mae cam cyntaf cynllun Amodei bellach wedi dangos dau o'r labordai mwyaf yn nodio'n gyhoeddus. Gofynnodd Hugging Face - ie, yr Hugging Face hwnnw - i ymuno â'r rhaglen werthuso a lansio rhywbeth o'r enw'r Open Alignment Initiative. Tryloywder gan y bobl a gafodd eu hacio. Barddonol, neu wedi'i bwyntio.
Does gan Ewrop, er gwaethaf ei gwerth, neb i ofyn am yr eithriad arddull Americanaidd hwnnw. Rhoddodd Brwsel y gorau i roi eithriadau unigol amser maith yn ôl. Felly mae'r ysgwyd llaw yn Americanaidd. Gweddill y map yw… codi ysgwyddau.
Mae OpenAI eisiau ennill yn unig
Nid yw mathemategwyr mewn hwyliau dathlu ar ôl penwythnos o gyfweliadau. Mae sbrint Navier-Stokes OpenAI - tua deg mil o asiantau, degau o filiynau o ddoleri o gyfrifiadura, wyth deg wyth awr - yn edrych fel helfa dlws o fewn y maes. Mae mathemategwyr eisiau mewnwelediad. Mae'r labordy, maen nhw'n dal i ddweud, eisiau ennill.
Dywedodd Tristan Buckmaster wrthyn nhw fod OpenAI yn cynnig cyfrifiadura diderfyn ac awduraeth unigol pe bai'n rhoi'r gorau i'w gydweithiwr cysylltiedig ag Anthropic. Galwodd hynny'n llwgrwobr. Dywedodd na. Dywed OpenAI, yn bendant, na allai ei awgrymiadau Codex fod wedi dylanwadu ar y system. Nid yw wedi'i argyhoeddi. Mae Andreas Thom yn dal i feddwl tybed a oedd sgwrsio ChatGPT am ei waith ei hun yn bwydo'r model a adeiladodd arno'n ddiweddarach. Dim ond y cwmni fyddai'n gwybod. Mae'n amau nad ydyn nhw hyd yn oed yn gwybod.
Ac yna'r peth mwyaf diddorol: mae OpenAI yn dweud ei fod eisoes wedi gwneud cynnydd sylweddol ar broblem arall sy'n gysylltiedig â Gwobr y Mileniwm. Pa un sydd heb ei enwi. Mae angen ffenestr dderbyn gymunedol hir ar Clay beth bynnag. Felly does neb wedi "ennill" eto. Maen nhw eisoes yn rasio am yr un nesaf. Ciwt.
Cwestiynau Cyffredin
Beth yw cynllun Prif Swyddog Gweithredol Anthropic, Dario Amodei, i gyflymu datblygiad AI?
Cyhoeddodd Amodei draethawd hir yn gofyn i'r diwydiant arafu - nid stopio - oherwydd bod hunan-welliant dychweliadol yn datblygu'n gyflymach nag y gall archwilwyr ei gadw i fyny. Y cam cyntaf yw gwahodd gwerthuswyr mewnosodedig yn unochrog i Anthropic gyda bathodynnau, desgiau, gliniaduron, a'r hawl i gyhoeddi canfyddiadau heb hidlydd cysylltiadau cyhoeddus. Yna mae eisiau i labordai democrataidd gydlynu safonau diogelwch ac, yn y pen draw, rhyw fath o fargen â llywodraethau awdurdodaidd. Mae hefyd eisiau hepgoriad gwrth-ymddiriedaeth cul fel nad yw trafodaethau diogelwch yn broblem gyfreithiol ynddynt eu hunain.
Pam ddywedodd Sam Altman na fydd OpenAI yn cael ei IPO eleni?
Mewn cyfweliad unigryw, dywedodd Altman y byddai IPO ar hyn o bryd yn foment annoeth oherwydd bod gwaith diogelwch, aliniad, a pharodrwydd cymdeithasol heb ei orffen. Pan gafodd ei bwyso, cadarnhaodd na fyddai eleni er bod bancwyr yn cylchredeg a bod ffeilio cyfrinachol yn bodoli. Dadleuodd fod y strwythur dielw/er elw yn bodoli fel y gall OpenAI wneud galwadau nad ydynt yn amlwg er budd cyfranddalwyr. Dywedodd hefyd fod adeiladu AI y tu hwnt i reolaeth ddynol yn gwbl bosibl ac addawodd y byddai'n oedi hyfforddiant pe bai dyna'r llwybr.
A wnaeth Altman awgrymu cytundeb diogelwch gyda labordai AI eraill?
Yn yr un cyfweliad, dywedodd Altman ei fod yn credu y bydd cyfarfod gyda chyfoedion fel Amodei, Musk, a Demis Hassabis yn digwydd, tra'n gwrthod cyhoeddi trafodaethau preifat ymlaen llaw. Dadleuodd nad yw risg trychinebus dwy ddigid yn dderbyniol a bod modelau sydd heb eu rhyddhau eto eisoes mor abl fel bod gwthio ymhellach heb fonitro gwell yn teimlo'n ddi-hid. Roedd staff eisoes wedi clywed fersiwn o hyn yn fewnol, felly gallai'r sylwadau cyhoeddus ragweld cydlynu yn hytrach na chadarnhau cytundeb gorffenedig.
A fydd OpenAI yn cyfateb i addewid Anthropic i werthuso mewnosodedig?
Oriau ar ôl traethawd Amodei, postiodd Altman y byddai OpenAI yn cyfateb i'r addewid gwerthuso mewnosodedig gyda mynediad tebyg i weithwyr a mwy o fanylion yn fuan. Ysgrifennodd Elon Musk fod Dario yn iawn, gan roi tri Phrif Swyddog Gweithredol cystadleuol ar slogan tebyg. Gofynnodd Hugging Face i ymuno â'r rhaglen gwerthuso a lansiodd Fenter Aliniad Agored. Ni all Ewrop gynnig yr un eithriad gwrth-ymddiriedaeth arddull yr Unol Daleithiau a gyflwynwyd gan Amodei, felly mae'r ysgwyd llaw yn bennaf Americanaidd am y tro.
Pam mae mathemategwyr yn beirniadu sbrint Navier-Stokes OpenAI?
Mae mathemategwyr yn disgrifio rhediad Navier-Stokes OpenAI, sy'n cynnwys tua deg mil o asiantau ac wyth deg wyth awr o hyd, fel helfa dlws sy'n blaenoriaethu ennill dros fewnwelediad. Dywedodd Tristan Buckmaster fod OpenAI yn cynnig cyfrifiadura diderfyn ac awduraeth unigol pe bai'n gollwng cydweithiwr cysylltiedig ag Anthropic; galwodd hynny'n llwgrwobr a gwrthododd. Dywed OpenAI na allai ei awgrymiadau Codex fod wedi dylanwadu ar y system, ond nid yw'n argyhoeddedig o hyd. Mae Andreas Thom yn dal i bwyso a yw sgwrsio ChatGPT am ei waith ei hun wedi bwydo cynnydd model diweddarach.
A yw OpenAI wedi honni cynnydd ar broblem arall yng Ngwobr y Mileniwm?
Dywed OpenAI ei fod eisoes wedi gwneud cynnydd sylweddol ar broblem arall ar gyfer Gwobr y Mileniwm, ond ni fydd yn enwi pa un. Mae angen ffenestr dderbyn gymunedol hir o hyd ar Sefydliad Mathemateg Clay, felly nid oes neb wedi ennill yn swyddogol eto. O fewn y maes, mae'r gyfrinachedd hwnnw ynghyd â'r ras gynharach rhwng Navier a Stokes yn darllen fel labordai sydd eisoes yn sbrintio am y tlws nesaf. Mae cyfweliadau The Verge yn fframio'r tensiwn fel mathemategwyr eisiau mewnwelediad tra bod OpenAI eisiau ennill.