⚖️ Mae Anthropic yn erlyn i rwystro rhestr ddu'r Pentagon dros gyfyngiadau ar ddefnyddio AI ↗
Mae Anthropic wedi mynd â'i frwydr gyda'r Pentagon i'r llys ar ôl cael ei labelu'n risg i'r gadwyn gyflenwi. Dywed y cwmni fod y symudiad yn ddial anghyfreithlon am wrthod llacio'r rheiliau gwarchod o amgylch arfau ymreolaethol a gwyliadwriaeth ddomestig - sy'n gosod yr anghydfod hwn ymhlith y pwyntiau tanbaid mwyaf fflamadwy mewn polisi AI ar hyn o bryd. (Reuters)
Mae'r llywodraeth eisiau hyblygrwydd ar gyfer "unrhyw ddefnydd cyfreithlon," tra bod Anthropic yn dadlau y dylid caniatáu i labordai preifat dynnu llinellau diogelwch llym o hyd. Mae hyn wedi dod yn un o'r profion cliriaf hyd yma ynghylch a all cwmni AI ddweud "na" i dermau milwrol heb gael ei feirniadu amdano. (Reuters)
🧑💻 Mae gweithwyr ar draws OpenAI a Google yn cefnogi achos cyfreithiol Anthropic yn erbyn y Pentagon ↗
Denodd yr achos cyfreithiol hwnnw gefnogaeth yn gyflym o fewn labordai cystadleuol hefyd. Cefnogodd bron i 40 o weithwyr o OpenAI a Google Anthropic mewn crynodeb amicus, gan ddadlau bod dial yn erbyn cwmnïau dros linellau coch diogelwch AI yn torri yn erbyn budd y cyhoedd. (The Verge)
Felly ie, mae cystadleuwyr wedi dod o hyd iddynt eu hunain yn sydyn ar yr un ochr - o leiaf ar y pwynt hwn. Mae'r briff yn canolbwyntio ar wyliadwriaeth dorfol ac arfau ymreolus annibynadwy, sy'n gwneud i'r holl beth deimlo llai fel saethu safonol Silicon Valley ac yn fwy fel llinell ddiwydiannol ddilys yn y tywod ... neu fwd, efallai. (The Verge)
🛡️ Mae OpenAI yn caffael Promptfoo i ddiogelu ei asiantau AI ↗
Dywedodd OpenAI ei fod yn prynu Promptfoo, cwmni newydd sy'n canolbwyntio ar amddiffyn modelau iaith mawr rhag ymosodiadau gwrthwynebol. Y cynllun yw plygu ei dechnoleg i mewn i OpenAI Frontier, platfform menter y cwmni ar gyfer asiantau AI. (TechCrunch)
Mae'n symudiad arwyddocaol. Mae pawb eisiau i AI asiantaidd wneud mwy, yn gyflymach, ym mhobman - ond mae'r ochr ddiogelwch wedi llusgo ar ei hôl hi, boed o ychydig neu o lawer. Mae'r cytundeb hwn yn awgrymu bod OpenAI yn credu nad yw'r ras fawr nesaf am asiantau mwy craff yn unig, ond am rai mwy diogel hefyd. (TechCrunch)
🧪 Mae Anthropic yn lansio offeryn adolygu cod i wirio llifogydd o god a gynhyrchwyd gan AI ↗
Cyflwynodd Anthropic Code Review y tu mewn i Claude Code, wedi'i anelu at dimau sy'n boddi mewn ceisiadau tynnu a grëwyd gan offer codio AI. Mae'n defnyddio asiantau lluosog ochr yn ochr i sganio cod, nodi problemau rhesymeg, graddio difrifoldeb, a gadael sylwadau'n uniongyrchol yn GitHub. (TechCrunch)
Mae'r cynnig yn ddigon syml - mae AI yn cynhyrchu cod yn gyflymach nag y gall bodau dynol ei adolygu'n synhwyrol, felly nawr mae'n rhaid i AI adolygu'r AI. Trefniant ychydig yn debyg i neidr yn bwyta ei gynffon, ond un ymarferol. Dywed Anthropic ei fod wedi'i anelu at ddefnyddwyr menter sydd eisoes yn gweld allbwn cod enfawr o Claude Code. (TechCrunch)
💰 Nscale, a gefnogir gan Nvidia, wedi'i wertholi ar $14.6 biliwn mewn rownd ariannu newydd ↗
Cododd cwmni seilwaith AI y DU, Nscale, $2 biliwn mewn rownd Cyfres C, gan gyrraedd gwerth o $14.6 biliwn. Roedd y cefnogwyr yn cynnwys Aker, 8090 Industries, Nvidia, Citadel, Dell, a Jane Street - sy'n gyfystyr â phleidlais eithaf sylweddol o hyder. (Reuters)
Mae'r un hon yn bwysig oherwydd nid lansiad model arall na newid sgwrsbot mohono. Ochr bigau a rhawiau'r ffyniant ydyw - cyfrifiadura, seilwaith, capasiti, yr holl beiriannau trwm y tu ôl i'r llen. Nid yw'n hudolus, efallai, ond dyna lle mae llawer iawn o'r arian yn rhuthro nawr. (Reuters)
🧠 Mae AMI Labs Yann LeCun yn codi $1.03 biliwn i adeiladu modelau byd-eang ↗
Cododd menter newydd Yann LeCun, AMI Labs, $1.03 biliwn ar brisiad cyn-arian o $3.5 biliwn. Mae'r cwmni'n mynd ar drywydd "modelau byd" - systemau AI sydd i fod i ddysgu o realiti ei hun yn hytrach nag yn bennaf o iaith. (TechCrunch)
Mae hynny'n newid athronyddol uniongyrchol at y consensws presennol sy'n canolbwyntio'n drwm ar LLM, ac yn un amlwg iawn hefyd. Mae LeCun wedi dadlau ers blynyddoedd na fydd modelau iaith heddiw yn ein cario ni'r holl ffordd i ddeallusrwydd lefel ddynol, felly mae'r codiad hwn yn troi'r ddadl honno'n arbrawf drud iawn. (TechCrunch)
🇨🇳 Mae canolfannau technoleg Tsieineaidd yn hyrwyddo asiant AI OpenClaw er gwaethaf rhybuddion diogelwch ↗
Mae nifer o lywodraethau lleol Tsieineaidd yn cefnogi OpenClaw, asiant AI sy'n lledaenu'n gyflym er gwaethaf pryderon diogelwch sy'n gysylltiedig â'i fynediad at ddata personol. Felly mae'n ymddangos mai'r naws swyddogol yw: ydy, mae risgiau - ac ydy, gadewch i ni ei ehangu beth bynnag. (Reuters)
Dyna'r rhaniad sy'n digwydd. Mae canolfannau lleol eisiau'r ochr gadarnhaol economaidd a momentwm yr ecosystem, tra bod rheoleiddwyr yn rhybuddio am ddatgeliad data. Mae'n batrwm cyfarwydd o AI erbyn hyn - sbrintio yn gyntaf, tacluso'r rheiliau gwarchod yn ddiweddarach, neu dyna sut mae'n ymddangos. (Reuters)
Cwestiynau Cyffredin
Pam mae Anthropic yn siwio'r Pentagon dros gyfyngiadau ar ddefnyddio AI?
Dywed Anthropic fod y Pentagon wedi’i labelu’n risg i’r gadwyn gyflenwi ar ôl i’r cwmni wrthod telerau ehangach a allai ymestyn i arfau ymreolaethol a gwyliadwriaeth ddomestig. Mae hynny’n gwneud yr achos cyfreithiol yn ymwneud â mwy na statws gwerthwr. Mae’n profi a all labordy AI gadw terfynau diogelwch cadarn ar waith a dal i gystadlu am waith y llywodraeth heb gael ei gosbi.
Pam mae gweithwyr OpenAI a Google yn cefnogi Anthropic yn yr anghydfod diogelwch AI hwn?
Mae'r briff amicus yn arwydd bod llawer o bobl mewn labordai cystadleuol yn gweld hyn fel mater diogelwch AI sy'n gosod cynsail, nid dim ond brwydr rhwng un cwmni ac un asiantaeth. Eu pryder yw y gallai cosbi gwerthwr am gynnal llinellau coch roi pwysau ar y farchnad ehangach i wanhau mesurau diogelwch. Yn ymarferol, gallai hynny lunio sut mae contractau amddiffyn a AI yn y sector cyhoeddus yn cael eu negodi yn y dyfodol.
Beth allai achos Anthropic-Pentagon ei newid ar gyfer polisi a chontractau amddiffyn AI?
Os bydd Anthropic yn ennill, efallai y bydd gan gwmnïau AI sail gryfach i ddiffinio defnyddiau annerbyniol hyd yn oed wrth werthu i amgylcheddau llywodraeth sensitif. Os bydd yn colli, gallai asiantaethau gael dylanwad i fynnu termau "defnydd cyfreithlon" ehangach gan gyflenwyr. Beth bynnag, mae'n debygol y bydd yr anghydfod hwn yn dylanwadu ar iaith gaffael, adolygiadau risg, a'r ffordd y mae rheiliau gwarchod diogelwch yn cael eu hysgrifennu i gytundebau amddiffyn.
Pam wnaeth OpenAI brynu Promptfoo ar gyfer asiantau AI?
Mae Promptfoo yn adnabyddus am brofi modelau iaith mawr yn erbyn awgrymiadau gwrthwynebol a gwendidau diogelwch eraill. Mae plygu'r math hwnnw o offer i blatfform asiant menter OpenAI yn awgrymu bod y cwmni'n gweld defnydd mwy diogel fel mantais gystadleuol yn hytrach na thasg ochr. Wrth i asiantau AI ymgymryd â gwaith mwy sylweddol, mae profion gwydnwch a chamddefnydd yn dod yn llawer anoddach i'w hanwybyddu.
Sut gall timau ymdopi â'r llifogydd o god a gynhyrchir gan AI yn fwy diogel?
Mae nodwedd Adolygu Cod newydd Anthropic y tu mewn i Claude Code wedi'i hanelu at dimau sy'n cael eu llethu gan geisiadau tynnu a gynhyrchir gan offer codio AI. Mae'n defnyddio asiantau lluosog ochr yn ochr i ganfod problemau rhesymeg, graddio difrifoldeb, a gadael sylwadau yn GitHub. Yn nodweddiadol, mae offer fel hyn yn helpu i ddosbarthu'r gyfrol, ond mae adolygwyr dynol yn dal i fod yn bwysig ar gyfer pensaernïaeth, cyd-destun, a chymeradwyaeth derfynol.
Pam mae cymaint o fuddsoddiad yn seilwaith AI ar hyn o bryd?
Mae rownd ariannu ddiweddaraf Nscale yn tynnu sylw at y ffaith bod y diwydiant AI yn dal i dywallt cyfalaf enfawr i gyfrifiadura, seilwaith a chapasiti. Efallai bod y gwariant hwnnw'n llai gweladwy na lansiad model fflachlyd, ond mae'n sail i bopeth arall. Pan fydd y galw am hyfforddiant a defnydd yn parhau i gynyddu, mae'r cwmnïau sy'n gwerthu'r pigau a'r rhawiau yn aml yn dod yn rhai o'r enillwyr mwyaf.
Beth yw modelau byd, a pham mae Yann LeCun yn betio arnyn nhw?
Systemau AI yw modelau byd sydd wedi'u cynllunio i ddysgu o sut mae'r byd yn ymddwyn, yn hytrach na dibynnu'n bennaf ar ddata iaith. Mae hynny'n bwysig oherwydd bod Yann LeCun wedi dadlau ers tro nad yw modelau iaith ar eu pen eu hunain yn debygol o gyrraedd deallusrwydd lefel ddynol. Mae AMI Labs yn troi'r farn honno'n bet masnachol mawr ar lwybr gwahanol ar gyfer ymchwil AI uwch.
Pam mae canolfannau technoleg Tsieineaidd yn cefnogi OpenClaw er gwaethaf rhybuddion diogelwch?
Mae stori OpenClaw yn dangos rhaniad cyfarwydd o fewn marchnadoedd technoleg sy'n symud yn gyflym: mae llywodraethau lleol eisiau twf, cymorthdaliadau, a momentwm ecosystemau, tra bod rheoleiddwyr yn poeni am ddatguddiad data a diogelwch. Mae cefnogi'r asiant er gwaethaf rhybuddion yn awgrymu bod cymhellion economaidd yn drech mewn rhai mannau. I arsylwyr, mae'n atgof arall bod mabwysiadu yn aml yn symud yn gyflymach na goruchwyliaeth.