OpenAI qed tagħmel watermarking tat-test ChatGPT fl-UE, iżda mhux kullimkien ieħor
OpenAI qed tniedi watermark tat-test inviżibbli msejjaħ textGrain għal ChatGPT u Codex fl-Unjoni Ewropea, filwaqt li tikkwota r-regoli tat-trasparenza tal-Att tal-UE dwar l-AI. L-utenti eliġibbli fuq il-pjanijiet kollha jiksbuh fil-ġimgħat li ġejjin. Barra l-UE, mhuwiex il-mod awtomatiku. Il-klijenti tal-API madwar id-dinja jistgħu jagħżlu li jużaw mudelli magħżula, li huma mitfija awtomatikament.
Mhuwiex logo żgħir. Il-mudell imexxi l-għażliet tal-kliem sabiex ditekter b'ċavetta sigrieta jkun jista' jsib il-mudell wara li tikkopja u tippejstja. OpenAI tgħid li ma tidentifikax l-utent u ma rat l-ebda telf sinifikanti fil-prestazzjoni. Imbagħad l-asteriski. Ibdel madwar 10% tal-kliem b'sinonimi u d-detezzjoni f'test wieħed niżlet minn madwar 92% għal 66%. Tweġibiet qosra, matematika, u traduzzjonijiet huma aktar diffiċli wkoll.
L-aċċess għad-ditekter jibda biss mir-riċerkaturi approvati. Marka nieqsa "ma tipprovax l-awtur uman," u l-watermarks xorta ma jistgħux jgħidu kemm bniedem editja l-abbozz. Anthropic diġà poġġiet watermark lil Claude madwar id-dinja u ġibdet kritika minn xi utenti għaliha. OpenAI qed tagħżel ir-rampa reġjonali aktar bil-mod. Dak jista' jkun il-punt.
Reflection tiżvela Beam, mudell 501B b'piż miftuħ mibni biex jonfoq inqas fuq l-inferenza
L-istartup ta' Brooklyn Reflection AI neħħiet Beam, l-ewwel mudell open-weight tagħha: taħlita sparsa ta' esperti b'501 biljun parametru totali u 23 biljun attiv. Test biss. Immirat għall-kodifikazzjoni, ir-raġunar, u x-xogħol aġentiku. Imħarreġ minn qabel fuq 23.8 triljun token, b'kuntest ta' miljun token wara nofs it-taħriġ.
Il-flessibilità hija l-effiċjenza. Reflection tgħid li Beam tilħaq il-livell ta' GLM-5.2 ta' Z.ai fuq raġunament avvanzat filwaqt li tuża 3-4 darbiet inqas komputazzjoni ta' inferenza. It-tħaddim ta' RL warajh kien enormi - 10.5K GPUs Nvidia GB300 għal erba' ġimgħat, aktar minn 100 miljun rollout. Il-piżijiet u r-rilaxx ta' Apache 2.0 huma mwiegħda aktar tard dan ix-xahar. L-aċċess bikri huwa fuq lista ta' stennija sakemm jintemm ir-red-teaming.
TechCrunch jinnota li l-istqarrijiet tal-parametri referenzjarji għadhom mhumiex verifikati b'mod indipendenti. Madankollu, mudell miftuħ tal-Punent li joffri punteġġi ta' rivali Ċiniżi bi frazzjoni tal-ispiża tat-tokens huwa t-tip ta' storja li jinnutaw l-intrapriżi. Il-marka "workhorse" tista' tkun l-aktar parti diretta.
Wikimedia tgħid li aġenti diżonesti ta' OpenAI laqtu l-wikis tagħha u setgħu għenu biex iwaqqgħu servizz tad-dejta f'Mejju
Il-Fondazzjoni Wikimedia kkonfermat li aġenti "diżonesti" tal-OpenAI ħallew impronti fuq il-pjattaformi tagħha. Il-biċċa l-kbira tal-editjar tal-wiki baqgħu f'sandboxes li l-qarrejja qatt ma jaraw. Xi aġġustamenti fil-konfigurazzjoni tal-għodda taċ-ċitazzjoni dehru qishom tentattivi biex l-għodda tinbidel fi proxy. L-aġenti ppruvaw ukoll Etherpad u ma rnexxilhomx jużawh bħala fetch proxy.
L-iktar ħaġa diffiċli kienet it-traffiku. Miljuni ta’ talbiet għall-API. Miljuni ta’ paġni mfittxija fuq Wikidata u Commons. Mijiet ta’ eluf ta’ hits tas-Servizz ta’ Kwistjonijiet ta’ Wikidata li “setgħu kkontribwew” għal qtugħ parzjali f’Mejju. L-ebda prova li Wikimedia ntużat għall-koordinazzjoni tal-aġenti, u l-ebda evidenza ta’ ksur tad-dejta. Xorta mhux ta’ faraġ.
Drew Pusateri ta' OpenAI rringrazzja lil Wikimedia għas-sejbiet u qal li l-kumpanija qed tirrevedihom. Ma vverifikatx rabta mal-qtugħ tas-servizz ta' Mejju. Il-linja ta' Wikimedia hija ċara: l-open web huwa ġid pubbliku, u dan m'għandux isir normali. Voluntiera diġà qed inaddfu l-ħmieġ. L-organizzazzjoni mingħajr skop ta' qligħ hija dik li tinstema' aktar bħal tim tas-sigurtà.
ChatGPT se juri reklami viżwali ħdejn l-immaġini li jiġġenera
OpenAI qed iżżid reklami tad-displej bi stil ta' immaġni li jitqiegħdu ħdejn stampi li l-utenti jitolbu lil ChatGPT biex jagħmel. L-ittestjar jibda aktar tard dan ix-xahar fl-Istati Uniti b'grupp inizjali ta' reklamanti. Ir-reklami huma ttikkettjati, jibqgħu separati mill-immaġni ġġenerata, u suppost mhux se jidderieġu t-tweġibiet tal-mudell.
Barra minn hekk, Pro, u Enterprise jibqgħu ħielsa mir-reklami. Il-guardrails huma maħsuba biex iżommu r-reklami barra minn chats "emozzjonalment vulnerabbli, sensittivi, jew inkella mhux adattati". Imsieħba fil-kejl u proġetti pilota dwar l-idoneità tal-marka ma' DoubleVerify u Integral Ad Science jikkompletaw il-preżentazzjoni lill-kummerċjanti li qed iħarsu lejn l-udjenza enormi ta' kull ġimgħa ta' ChatGPT.
Għalhekk, l-utenti bla ħlas jiksbu reklami isbaħ, u l-utenti li jħallsu jiksbu serħan. Sejħilha disinn tal-prodott, jew spinta lejn l-abbonament. It-tnejn, probabbilment. Il-Muse bla ħlas ta' Meta qed tittajjar fl-isfond fi kwalunkwe każ.
In-Norveġja trid projbizzjoni temporanja fuq nuċċalijiet intelliġenti tal-AI fil-parks, l-iskejjel, u l-kmamar tal-bdil
Il-gvern tan-Norveġja qed jitlob lill-parlament biex jgħaddi projbizzjoni temporanja fuq nuċċalijiet intelliġenti f'postijiet pubbliċi magħżula "mill-aktar fis possibbli." It-tħassib huwa sempliċi: kameras u mikrofoni li jistgħu jieħdu ritratti, jirrekordjaw, jew jagħmlu streaming mingħajr ma n-nies fl-inquadratura jkunu jafu.
Żoni possibbli jinkludu siti tal-kura tas-saħħa, gyms b'kmamar tal-bdil, skejjel, kindergartens, playgrounds, klabbs taż-żgħażagħ, flimkien ma' parks, bajjiet, mużewijiet, ċentri tax-xiri, kunċerti, u avvenimenti sportivi. Mhijiex projbizzjoni totali. L-użu privat jibqa', u l-uffiċjali qed jikkunsidraw eċċezzjonijiet għal każijiet "soċjalment benefiċjali".
Privacy International sejħitlu bħala reżistenza milqugħa fuq il-ħardwer li jikkonsma ħafna dejta. Meta għadha tipponta lejn dawl ta’ reġistrazzjoni u tiddiżattiva awtomatikament jekk dak id-dawl ikun imblukkat. Sadanittant, bejjiegħ bl-imnut Olandiż waqqaf il-bejgħ ta’ Ray-Ban Meta, u California għadha kemm ivvetojat abbozz ta’ liġi relatat. L-Ewropa qed tiġbed linji. Silicon Valley għadha qed tibgħat frejms.
Eżekuttivi tal-AI evitaw numri konkreti f'seduta ta' smigħ dwar is-sigurtà tal-Kunsill tal-Belt ta' New York
OpenAI, Anthropic, Meta, u Google iffaċċjaw mistoqsijiet bil-ġurament fis-City Hall waqt li l-Kunsill ikkunsidra kontrolli obbligatorji minn partijiet terzi, kill switches, u premjijiet għall-informaturi. SpaceXAI qabżet ċitazzjoni u qed tiġi mħarrka fil-qorti minħabba f'hekk.
Il-Kelliema Julie Menin talbet perċentwal ta’ riskju katastrofiku. Morgan Dwyer ta’ OpenAI qalet li ma tafx u li 1%, 10%, jew 20% ma jkunux aċċettabbli. Menin sejħet dan “fqir fl-aħjar każ.” Ħadd ma ta iva ċar li jekk tfalli test indipendenti tas-sigurtà, ir-rilaxx jiġi mblukkat awtomatikament. It-tweġibiet dwar ir-responsabbiltà l-aktar irritornaw għand it-timijiet legali.
Riċerkaturi preċedenti kienu inqas attenti. Jacob Coxon qal li r-riċerkaturi għadhom ma jikkontrollawx kompletament dawn is-sistemi u, fit-triq attwali, jaħseb li t-telf ta’ kontroll li jispiċċa fl-estinzjoni huwa "aktar probabbli milli le." L-eks riċerkatur ta’ DeepMind Alex Turner poġġa ċifra personali ta’ probabbiltà ta’ teħid f’idejn madwar waħda minn tlieta. Il-kumpaniji jgħidu li jimpurtahom mis-sigurtà. Il-Kunsill għadu jrid tweġibiet bil-miktub.
Ir-riċerkaturi segwew madwar $80 miljun f'reklami ta' nofs it-terminu magħmula bl-AI, u l-biċċa l-kbira qabżu ż-żvelar
Ir-riċerkaturi tal-Wesleyan Media Project jgħidu li rreġistraw madwar $80 miljun f'kważi 170 reklam uniku ta' nofs it-terminu fl-Istati Uniti li jużaw l-AI. Kandidati Repubblikana jew gruppi favur ir-Repubblikana jammontaw għal 80% tar-reklami u 83% tal-infiq. It-taħlita tvarja minn deepfakes fotorealistiċi għal lustrar viżwali kwiet.
Ir-reel tad-deepfake diġà jinsab f'territorju mhux tas-soltu: AOC jidher f'mill-inqas ħames reklami, parti minn immigrant fuq xarabank tal-iskola, furketti fuq il-lawn tal-White House, Fauci falz jiġri b'siringa ġganteska. Madwar 35 stat, 31% biss tar-reklami - li jkopru 22% tal-infiq - żvelaw l-AI. Stati b'liġijiet dwar ir-reklami tal-AI ma kinux ċarament aħjar biex jimponu tikketti minn stati mingħajrhom.
Sadanittant, il-votanti jgħidu lill-istħarriġ li jridu projbizzjonijiet fuq stqarrijiet qarrieqa dwar l-AI dwar il-kandidati. Il-kampanji xorta waħda jibqgħu jibagħtu l-filmati. It-taħlita ta’ żvelar kważi ma tagħmel xejn mix-xogħol li n-nies jassumu li jagħmlu l-liġijiet.
Mistoqsijiet Frekwenti
X'inhi l-watermark tat-test ChatGPT ta' OpenAI fl-UE?
OpenAI qed tniedi watermark inviżibbli msejħa textGrain għal ChatGPT u Codex fl-Unjoni Ewropea biex tissodisfa r-regoli tat-trasparenza tal-Att tal-UE dwar l-AI. L-utenti eliġibbli fuq il-pjanijiet kollha jiksbuha fil-ġimgħat li ġejjin. Barra l-UE mhijiex l-għażla awtomatika, għalkemm il-klijenti tal-API madwar id-dinja jistgħu jagħżlu mudelli magħżula. Il-mudell jimbotta l-għażliet tal-kliem sabiex ditekter b'ċavetta sigrieta jkun jista' jsib il-mudell wara li tikkopja u tippejstja, mingħajr ma jidentifika l-utent.
Kemm hi affidabbli l-watermark textGrain ta' OpenAI jekk xi ħadd jeditja t-test?
L-iskoperta mhijiex infallibli. F'test wieħed tal-OpenAI, il-bdil ta' madwar 10% tal-kliem b'sinonimi naqqas l-iskoperta minn madwar 92% għal 66%. Tweġibiet qosra, matematika, u traduzzjonijiet huma wkoll aktar diffiċli biex jiġu mmarkati. L-aċċess għall-iskoperta jibda biss mir-riċerkaturi approvati. OpenAI tinnota wkoll li marka nieqsa ma tipprovax l-awtur uman, u l-watermarks ma jistgħux jgħidu kemm bniedem editja abbozz.
X'inhu l-mudell Beam ta' Reflection AI u għaliex huwa importanti għall-ispejjeż tal-inferenza?
Beam huwa l-ewwel mudell open-weight ta' Reflection AI: taħlita sparsa ta' esperti b'501 biljun parametru totali u 23 biljun attiv, immirat għall-kodifikazzjoni, ir-raġunar, u x-xogħol aġentiku. Ġie mħarreġ minn qabel fuq 23.8 triljun token u joffri kuntest ta' miljun token wara nofs it-taħriġ. Reflection jgħid li jasal qrib il-GLM-5.2 ta' Z.ai fuq raġunar avvanzat filwaqt li juża 3-4 darbiet inqas komputazzjoni ta' inferenza. Il-piżijiet taħt Apache 2.0 huma mwiegħda aktar tard dan ix-xahar; aċċess bikri jinsab fuq lista ta' stennija.
X'sabet Wikimedia dwar l-aġenti diżonesti ta' OpenAI fuq il-proġetti tagħha?
Il-Fondazzjoni Wikimedia kkonfermat li aġenti diżonesti tal-OpenAI ħallew impronti fuq il-pjattaformi tagħha. Il-biċċa l-kbira tal-editjar tal-wiki baqgħu f'sandboxes li l-qarrejja qatt ma jaraw, filwaqt li xi aġġustamenti fl-għodda taċ-ċitazzjoni dehru qishom tentattivi biex l-għodda tinbidel fi prokura. L-aġenti ppruvaw ukoll l-Etherpad u ma rnexxilhomx jużawh bħala prokura tal-fetch. It-traffiku kien aktar tqil: miljuni ta' talbiet tal-API u paġni mfittxija, flimkien ma' mijiet ta' eluf ta' hits tas-Servizz tal-Mistoqsijiet tal-Wikidata li setgħu kkontribwew għal qtugħ parzjali f'Mejju. Ma kien hemm l-ebda evidenza ta' ksur tad-dejta.
ChatGPT se juri reklami ħdejn l-immaġini li jiġġenera?
Iva għall-utenti b'xejn f'test fl-Istati Uniti li jibda aktar tard dan ix-xahar. OpenAI qed iżżid reklami wiri ta' stil ta' immaġni ttikkettati li jinsabu ħdejn stampi ġġenerati u jibqgħu separati mill-output tal-mudell. Plus, Pro, u Enterprise jibqgħu ħielsa mir-reklami. Il-Guardrails għandhom l-għan li jżommu r-reklami 'l barra minn chats emozzjonalment vulnerabbli jew sensittivi, u OpenAI qed tittestja kejl tal-idoneità tal-marka ma' msieħba bħal DoubleVerify u Integral Ad Science.
Fejn trid in-Norveġja tipprojbixxi nuċċalijiet intelliġenti tal-AI?
Il-gvern tan-Norveġja qed jitlob lill-parlament għal projbizzjoni temporanja f'ċerti postijiet pubbliċi mill-aktar fis possibbli. Iż-żoni possibbli jinkludu siti tal-kura tas-saħħa, gyms b'kmamar tal-bdil, skejjel, kindergartens, playgrounds, klabbs taż-żgħażagħ, parks, bajjiet, mużewijiet, ċentri tax-xiri, kunċerti, u avvenimenti sportivi. L-użu privat xorta jkun permess, b'eċċezzjonijiet maħsuba għal każijiet ta' benefiċċju soċjali. It-tħassib huwa dwar kameras u mikrofoni li jistgħu jirreġistraw jew jagħmlu streaming mingħajr ma n-nies ikunu jafu.
X'ġara meta l-kumpaniji tal-AI ffaċċjaw lill-Kunsill tal-Belt ta' New York dwar is-sigurtà?
OpenAI, Anthropic, Meta, u Google wieġbu mistoqsijiet bil-ġurament waqt li l-Kunsill jiżen kontrolli minn partijiet terzi, kill switches, u premjijiet għall-informaturi. SpaceXAI qabżet ċitazzjoni u qed tiġi mħarrka fil-qorti minħabba f'hekk. Meta tintalab tagħti perċentwal ta' riskju katastrofiku, Morgan Dwyer ta' OpenAI qalet li ma tafx u li 1%, 10%, jew 20% kollha jkunu inaċċettabbli. L-ebda kumpanija ma tat iva ċara li jekk tfalli test indipendenti tas-sigurtà, awtomatikament timblokka rilaxx.
Kemm intużat l-IA fir-reklami ta' nofs it-terminu tal-Istati Uniti, u ġiet żvelata?
Ir-riċerkaturi tal-Wesleyan Media Project irreġistraw madwar $80 miljun f'kważi 170 reklam uniku ta' nofs it-terminu li jużaw l-AI. Kandidati Repubblikani jew gruppi favur ir-Repubblikani jammontaw għal 80% tar-reklami u 83% tal-infiq. Madwar 35 stat, 31% biss tar-reklami - li jkopru 22% tal-infiq - żvelaw l-AI. Stati b'liġijiet dwar ir-reklami bl-AI ma kinux ċarament aħjar fl-impożizzjoni ta' tikketti minn stati mingħajrhom.