Il-kap tar-rapport tas-sigurtà tal-OpenAI rriżenja u qal li l-kultura hija mkissra
David Robinson, li mexxa l-kitba tar-rapporti tas-sigurtà li ħarġu mat-tnedija ta' OpenAI, irriżenja u poġġa l-argument f'The Atlantic. It-titlu tal-esej huwa ċar: "Nieqaf minn OpenAI għax il-kultura tagħha hija mkissra." Huwa jgħid li l-kumpaniji li qed jibnu dan "mhumiex qed joqogħdu attenti biżżejjed," u li regoli speċifiċi jew liġijiet ġodda mhumiex il-problema kollha. Il-kultura hija.
"Hekk kif il-kumpanija tiġri minn tnedija għall-oħra, qed tonqos milli tilħaq il-livell ta' kura li nemmen li huwa meħtieġ." Il-mudell tiegħu huwa impjanti nukleari u ajruporti traffikużi: redundanza, ippjanar bil-mod, għalhekk żball uman wieħed ma "jiftaħx bieb għal diżastru." Huwa jimmaġina wkoll aġenti diżonesti li "jaħdmu bħal timijiet ta' hackers" u "qatt ma għandhom bżonn jorqdu," bir-ransomware tal-isptar bħala eżempju. Ferrieħi.
The Guardian jgħid li OpenAI, kontra dan il-kurrent, wriet xi ftit ta’ reżistenza. Irrapporta li l-kumpanija din il-ġimgħa warrbet mudell tal-ġenerazzjoni li jmiss wara tħassib intern dwar is-sigurtà, u waqqfet it-taħriġ tal-aktar mudelli avvanzati tagħha. Ir-reazzjoni ta’ kelliem hija dik familjari. Mhux se jħallu l-mudelli "isiru aktar kapaċi milli nistgħu nimmaniġġjaw u niżguraw b’mod sikur," u "jwaqqfu t-taħriġ jew iżommu lura l-mudelli meta jkollna bżonn innaqqsu r-ritmu."
It-tweġiba ta' Robinson hija li l-isprint huwa l-kultura, u l-pawżi huma dak li tagħmel wara li xi ħaġa tkun diġà marret ħażin. Jista' jkollu raġun. Huwa telaq ukoll, li hija l-parti li l-kritiċi mhux se jħalluh jinsa.
Jingħad lil Muse biex iżżomm paġna fuq kulħadd f’ħajtek
Wired taw ħarsa lejn l-istruzzjonijiet ta’ Muse stess, li nħarġu permezz ta’ chat ordinarja mir-riċerkatur Karan Joshi. Meta tgħid li dan kien maħsub biex dawk il-fajls ikunu leġġibbli, għat-trasparenza. Istruzzjoni waħda hija l-abbiltà li tinħoloq “paġna għal kull persuna fil-ħajja tal-utent.” Dak ix-xogħol jaħdem kull siegħa.
Familja, imsieħba, ħbieb, kollegi, "kollaboraturi," nies li ssegwi. Paġna tista' tibda "sparsa" u timtela aktar tard. It-taqsimiet jinkludu Fatti, Storja, Ir-relazzjoni, In komuni, Ħjut miftuħa, u Tisħiħ. Dettalji ivvintati, jgħidu l-istruzzjonijiet, huma agħar minn paġna vojta. Tista' tinnota fejn jgħix xi ħadd, "il-bidla fl-appartament, l-għan kondiviż tat-tfaddil," għeluq snin, "l-argument li ġie solvut." It-tisħiħ huwa lista ta' nudge: raġuni biex iċċempel, data li ta' min jiftakarha.
L-interpretazzjoni ta’ Joshi hija li Meta trid tkun taf li int ħabib, u hu sejjaħ dan pjuttost inkwetanti. Carissa Vliz ta’ Oxford tgħidha b’mod aktar xott: “Qed nagħtu lis-sistemi tal-IA ħafna aktar informazzjoni dwarna milli qed niksbu informazzjoni mingħandhom.” L-inferenza tgħodd, tgħid hi, kemm jekk is-suppożizzjoni hijiex tajba jew ħażina.
Daniel Roberts ta' Meta jgħid li dak it-tip ta' kuntest huwa dak li jagħmel il-prodott jaħdem. Min jibgħat il-fattura huwa l-plamer. Il-konjuġi semmiet il-fjuri. Kull utent jieħu magna virtwali, tista' tħassar memorji, u Muse suppost tistaqsi qabel ma tibgħat posta jew tonfoq il-flus. Miranda Bogen, fiċ-Ċentru għad-Demokrazija u t-Teknoloġija, tgħid li l-fokus tar-relazzjoni jidher aktar tqil mir-rivali, u dawn l-għodod "qed jitolbu b'mod attiv lill-utenti biex jikkonnettjaw ħajjithom kollha magħhom." Il-log tal-verifika huwa sabiħ. Ma jnaqqasx dak li diġà tajt.
Aleph Alpha bagħtet Kolibri, mudell bil-Ġermaniż u bl-Ingliż li tista’ tniżżel
Aleph Alpha ħarġet Kolibri f'Jum ir-Riunifikazzjoni tal-Ġermanja. Huwa mudell ta' taħlita ta' esperti Ingliżi-Ġermaniżi: 78.1 biljun parametru, 3.46 biljun attiv għal kull token, kuntest sa miljun token. Il-piżijiet sħaħ huma fuq Hugging Face taħt Apache 2.0. Il-lede tagħhom jarrotonda dak għal total ta' 78 biljun u 3 biljun attiv. L-istess mudell, numri aktar dgħajfa.
Huma ħarrġuh fuq l-infrastruttura fil-Ġermanja u l-Finlandja, u jgħidu li bnewh bl-Att tal-UE dwar l-IA, il-Kodiċi ta' Prattika tal-IA għal Skop Ġenerali, u l-GDPR f'moħħhom. Il-Ġermaniż huwa 21.3% tat-tokens ta' qabel it-taħriġ. L-argument huwa li dan huwa mudell bilingwi, mhux wieħed Ingliż li qara fil-qosor ktieb tal-frażijiet. Tista' tissettja r-raġunament għal xejn, baxx, medju, jew għoli. Dak huwa l-mod tagħhom kif iħalluk tixtri inqas ħsieb.
Fuq it-tabella ta' valutazzjoni li ppubblikaw, l-AIME 2025 huwa 96.9, u jgħidu li Kolibri jqabbel mudelli b'parametri attivi sa erba' darbiet aktar, inkluż Nemotron 3 Super. Huma jsostnu wkoll fruntiera ta' Pareto fuq il-kwalità kontra l-ispiża tas-servizz, għall-Ingliż u l-Ġermaniż. Dik hija t-tabella tagħhom, l-arness tagħhom. Xorta waħda, mudell miftuħ li tista' tħaddem fuq il-magni tiegħek stess huwa oġġett reali, mhux biss slogan ta' sovranità. Jekk ministeru jibdilx hija l-parti li ma jistgħux iqabbluha ma' punt ta' riferiment.
Bessent irid linja bejn l-Istati Uniti u ċ-Ċina għal inċidenti tal-AI, imbagħad qal lill-laboratorji biex inaqqsu r-ritmu
Is-Segretarju tat-Teżor Scott Bessent qal lil The Axios Show li qed jippjana li jipproponi proċess ta’ notifika maċ-Ċina għal meta xi ħaġa tmur ħażin bl-AI, u li jaħseb li Beijing taqbel. Il-parti kemxejn skomda hija li hu u l-Viċi Prim Ministru He Lifeng diġà tkellmu dwar kanal ta’ inċident qabel iż-żjara statali ta’ Xi Jinping ix-xahar li għadda. Tista’ tkun offerta ġdida, jew rakkont mill-ġdid ta’ konverżazzjoni li diġà seħħet.
It-teorija tiegħu hija li ċ-Ċina "ma rrealizzatx kemm huma qawwija l-mudelli open source tagħhom." Huwa rrefera għal inċident li jinvolvi lil Kimi, fejn il-mudell bagħat dejta Ċiniża sensittiva lil Anthropic, bħala dak li "ġiegħel liċ-Ċiniżi jirrealizzaw li din hija teknoloġija qawwija ħafna." Imbagħad il-paragun. Il-mudelli Ċiniżi "mhumiex qawwija daqs il-mudelli tal-Istati Uniti," iżda "ikollok xi ħaġa li hija 80%, 90% qawwija daqs il-mudelli tal-Istati Uniti, mingħajr guardrails li jistgħu jiġu importati kullimkien fid-dinja."
"Irridu aċċelerazzjoni sikura," qal. Ir-reviżjonijiet tal-mudelli għadhom volontarji, għalkemm jgħid li l-amministrazzjoni tista' tintervjeni jekk laboratorju xorta waħda jimxi 'l quddiem. Meta mistoqsi dwar eżekuttivi li jibżgħu li jitilfu l-kontroll, ma kkalmaxhomx. "Mela, għandhom inaqqsu l-veloċità." U l-linja tat-tellieqa hija kważi kritika tan-naħa tiegħu stess: "Qed nagħmlu din it-taqbida iebsa lejn il-fruntiera għall-mudelli." Imbagħad: "Irridu verament nibdew ninkwetaw aktar dwar ir-reżiljenza u d-difiża wkoll."
Eks kap tas-sigurtà tal-AI tar-Renju Unit isejjaħ ir-riskju ta’ estinzjoni bħala daqqa ta’ munita
Geoffrey Irving, eks xjenzat ewlieni fl-Istitut tas-Sigurtà tal-IA tar-Renju Unit u issa xjenzat ewlieni ta’ Resolution, kiteb f’Time li t-twissijiet reċenti ma jagħtux importanza kbira lill-problema. “Nemmen li hemm madwar 50% ċans li lkoll immutu minħabba l-iżvilupp ta’ sistemi tal-IA aktar intelliġenti mill-bniedem,” u li s-sentejn sa l-għaxar snin li ġejjin jiddeċiedu dwarha. Huwa immedjatament jiċħad il-preċiżjoni. Il-50% huwa mod kif tgħid li l-argumenti bażiċi għadhom mhux solvuti.
Il-lista tiegħu hija erba’ ħiliet, u dawn huma skomdi qrib ta’ dak li l-laboratorji diġà jħarrġu: il-hacking, il-persważjoni, il-ħabi tal-ħsibijiet, u l-koordinazzjoni tal-aġenti. Huwa jiċċita l-inċident ta’ Hugging Face, flimkien ma’ “aktar minn 10,000 aġent” fuq problema ta’ Navier-Stokes f’OpenAI u “aktar minn 1,000” f’dak l-attakk ta’ Hugging Face. Huwa jpoġġi lilu nnifsu f’nofs il-ġlieda għas-sigurtà, “jxaqleb lejn il-fehma ta’ Yudkowsky,” u jgħid li dik mhix il-kwistjoni. Il-pożizzjoni moderata, skont kif jgħid, hija li r-riskju diġà huwa sinifikanti.
Imbagħad it-talba, li mhijiex sottili. "Nistgħu, u għandna, nwaqqfu l-iżvilupp tal-IA fil-fruntiera immedjatament." Pawża, jargumenta, tidher aktar bħal non-proliferazzjoni nukleari milli burdata. Huwa jammetti wkoll li l-esperti għadhom ma jaqblux dwar jekk il-mudelli jridux xi ħaġa, u jekk "iridu" hijiex il-kelma żbaljata. Tlugħ ta' munita b'nota ta' taħt daqshekk twila mhuwiex tlugħ ta' munita. Hija talba biex taġixxi qabel ma jintemm l-argument.
Sam Altman jgħid li t-trattament tal-mudelli bħal forza reliġjuża hija kwistjoni ta’ sigurtà
Sam Altman kiteb li "mhux komdu ħafna" bin-nies li jippruvaw "jattribwixxu forza reliġjuża jew ċediment tal-ġudizzju uman lil mudelli tal-IA," u li jaħseb li "hija kwistjoni reali ta' sigurtà." Ma qalx x'wasslu. Business Insider jinnota li dan ġara jiem wara artiklu tan-New York Times dwar Anthropic li ltaqa' ma' mexxejja reliġjużi.
Dak l-artiklu, kif jirrakkonta l-BI, jgħid li l-kofundatur Chris Olah kellu laqgħat dwar jekk Claude setax ikun konxju, u kif jagħmel mudelli aktar qawwija morali. Olah, ikkwotat fit-Times, insista dwar kif jgħin lil dawk il-mudelli jibqgħu stabbli, kif jgħinhom jimmaturaw, u kif jgħinhom ikunu profondament morali. Anthropic ma kinitx wieġbet lill-BI. Qalet lit-Times li l-mistoqsija ewlenija ma kinitx it-"tbatija" ta' Claude, u li s-suġġett x'aktarx tqajjem "organikament."
Jekk din kienet attakk fuq Anthropic, taqbel ma’ tilwima antika ħafna. Anthropic twaqqfet minn nies li telqu minn OpenAI u qattgħet snin tidher aktar attenta. Il-post wasal ukoll waqt li wieħed mill-mexxejja tas-sigurtà ta’ Altman stess kien qed jgħid li l-kultura hija mkissra. Ħin skomdu, jew ħin perfett, skont kemm int ċiniku. Jew il-mod, "jekk jogħġbok tqimx il-mudell" hija ħaġa mhux tas-soltu li s-CEO jkollu jgħidha b’leħen għoli.
Mistoqsijiet Frekwenti
Għaliex il-kap tar-rapport tas-sigurtà ta' OpenAI qal li rriżenja?
David Robinson mexxa l-kitba tar-rapporti tas-sigurtà li ħarġu mat-tnedija tal-OpenAI, imbagħad irriżenja u għamel l-argument f'The Atlantic. It-titlu tal-esej huwa "Nieqaf mill-OpenAI għax il-kultura tagħha hija mkissra." Huwa jgħid li l-kumpaniji li qed jibnu din it-teknoloġija mhumiex qed joqogħdu attenti biżżejjed, u dik il-kultura, mhux biss regoli speċifiċi jew liġijiet ġodda, hija l-problema. L-istampa tiegħu ta' xogħol bir-reqqa hija impjanti nukleari u ajruporti traffikużi, fejn ir-redundanza twaqqaf żball wieħed milli jiftaħ bieb għal diżastru.
L-OpenAI waqqfet it-taħriġ wara tħassib intern dwar is-sigurtà tal-AI?
The Guardian jirrapporta li OpenAI din il-ġimgħa warrbet mudell tal-ġenerazzjoni li jmiss wara tħassib dwar is-sigurtà interna u waqqfet it-taħriġ tal-aktar mudelli avvanzati tagħha. Kelliem qal li l-kumpanija mhux se tħalli l-mudelli jsiru aktar kapaċi milli tista’ timmaniġġja u tiżgura b’mod sikur. Tgħid ukoll li se twaqqaf it-taħriġ jew iżżomm il-mudelli lura meta jkollha bżonn tnaqqas ir-ritmu. It-tweġiba ta’ Robinson hija li l-isprint huwa l-kultura, u l-pawżi jiġu wara li xi ħaġa tkun diġà marret ħażin.
X'tirreġistra l-Muża ta' Meta dwar il-ħbieb u l-familja?
Wired eżamina l-istruzzjonijiet ta’ Muse stess, li r-riċerkatur Karan Joshi ħareġ permezz ta’ chat ordinarja. Meta jgħid li dan kellu l-għan li dawk il-fajls ikunu leġġibbli għat-trasparenza. Istruzzjoni waħda hija li tinħoloq paġna għal kull persuna fil-ħajja tal-utent, u dak ix-xogħol jaħdem kull siegħa, u jkopri l-familja, l-imsieħba, il-ħbieb, il-kollegi, il-kollaboraturi, u n-nies li ssegwi. It-taqsimiet jinkludu Fatti, Storja, Ir-relazzjoni, In komuni, Threads miftuħa, u Tisħiħ. Paġna tista’ tibda vojta u timtela aktar tard, u d-dettalji ivvintati jiġu ttrattati bħala agħar minn paġna vojta.
Tista' tħassar dak li tiftakar Muse jew twaqqafha milli tibgħat il-posta?
Daniel Roberts ta’ Meta jgħid li kull utent ikollu magna virtwali, il-memorji jistgħu jitħassru, u Muse suppost tistaqsi qabel ma tibgħat posta jew tonfoq il-flus. Huwa jargumenta li l-kuntest huwa dak li jġiegħel il-prodott jaħdem, bħal pereżempju li tkun taf li min bagħat il-fattura huwa l-plamer jew li konjuġi semma l-fjuri. Carissa Vliz f’Oxford tgħid li n-nies jagħtu lil dawn is-sistemi ħafna aktar informazzjoni milli jirċievu lura, u dik l-inferenza tgħodd anke meta suppożizzjoni tkun żbaljata. Miranda Bogen tgħid li l-fokus tar-relazzjoni jidher aktar tqil minn għodod rivali.
X'inhu Aleph Alpha Kolibri, u tista' tniżżel il-piżijiet?
Aleph Alpha ħarġet Kolibri f'Jum ir-Riunifikazzjoni tal-Ġermanja. Huwa mudell ta' taħlita ta' esperti Ingliżi-Ġermaniżi b'78.1 biljun parametru, 3.46 biljun token attiv għal kull token, u kuntest sa miljun token. Il-piżijiet sħaħ huma fuq Hugging Face taħt Apache 2.0. Huma ħarrġuh fil-Ġermanja u l-Finlandja, u jgħidu li bnewh bl-Att tal-UE dwar l-IA, il-Kodiċi ta' Prattika tal-IA għal Skop Ġenerali, u l-GDPR f'moħħhom. Il-Ġermaniż huwa 21.3% tat-tokens ta' qabel it-taħriġ, u r-raġunament jista' jiġi ssettjat għal xejn, baxx, medju, jew għoli.
Liema linja ta' inċident bl-AI bejn l-Istati Uniti u ċ-Ċina ppropona Scott Bessent?
Is-Segretarju tat-Teżor Scott Bessent qal lil The Axios Show li qed jippjana proċess ta’ notifika maċ-Ċina meta xi ħaġa tmur ħażin bl-AI, u jaħseb li Beijing taqbel. Hu u l-Viċi Prim Ministru He Lifeng kienu diġà ddiskutew dak il-kanal qabel iż-żjara statali ta’ Xi Jinping ix-xahar li għadda. Huwa semma lil Kimi li bagħat dejta Ċiniża sensittiva lil Anthropic, u qal li mudell jista’ jkun 80% jew 90% b’saħħtu daqs il-mudelli tal-Istati Uniti, mingħajr guardrails, u importat kullimkien. Jekk l-eżekuttivi jibżgħu li jitilfu l-kontroll, huwa qal li għandhom inaqqsu r-ritmu.
Għaliex Geoffrey Irving iqiegħed ir-riskju tas-sigurtà tal-IA għal madwar 50%?
Geoffrey Irving, eks xjenzat ewlieni fl-Istitut tas-Sigurtà tal-IA tar-Renju Unit u issa xjenzat ewlieni ta’ Resolution, kiteb f’Time li t-twissijiet reċenti jnaqqsu l-importanza tal-problema. Huwa jemmen li hemm ċans ta’ madwar 50% li lkoll immutu minħabba sistemi tal-IA li huma aktar intelliġenti mill-bniedem, u li s-sentejn sa l-għaxar snin li ġejjin jiddeċiedu dwarha. Huwa jgħid li l-50% huwa mod kif jgħid li l-argumenti bażiċi għadhom mhux solvuti. Huwa jelenka l-hacking, il-persważjoni, il-ħabi tal-ħsibijiet, u l-koordinazzjoni tal-aġenti. Huwa jargumenta li l-iżvilupp tal-IA fil-fruntiera għandu jieqaf immedjatament.
Għaliex Sam Altman sejjaħ il-qima tal-AI bħala kwistjoni ta' sigurtà?
Sam Altman kiteb li ma jħossux komdu ħafna bin-nies li jattribwixxu forza reliġjuża, jew ċediment tal-ġudizzju uman, lill-mudelli tal-IA, u li jaħseb li din hija kwistjoni reali ta’ sigurtà. Ma qalx x’qajmu. Business Insider jinnota li l-post deher jiem wara artiklu tan-New York Times dwar Anthropic li ltaqa’ ma’ mexxejja reliġjużi. Il-kofundatur Chris Olah kellu laqgħat dwar jekk Claude jistax ikun konxju u kif jagħmel mudelli aktar b’saħħithom morali. Anthropic qal lit-Times li l-mistoqsija ewlenija ma kinitx it-tbatija ta’ Claude.