L-ewwel riżultati ta' Jalapeño juru veloċità u effiċjenza ewlenin fl-industrija fl-inferenza tal-AI ↗
OpenAI ppubblikat l-ewwel riżultati tal-prestazzjoni għal Jalapeño, iċ-ċippa ta' inferenza personalizzata tagħha. Fuq GPT-OSS 120B, tgħid li ċ-ċippa tat madwar 1.9 darbiet aktar throughput massimu għal kull kilowatt u madwar 1.7 darbiet aktar latency minn tarf sa tarf mis -sistema ta' tqabbil.
Il-kisbiet intużaw ukoll għal DeepSeek R1 u Kimi K2.5. OpenAI qed tippjana li tuża Jalapeño fl-infrastruttura tal-kompjuter tagħha stess, filwaqt li d-disinji tat-tieni u t-tielet ġenerazzjoni diġà għaddejjin... allura iva, OpenAI qed issir dejjem aktar kumpanija taċ-ċipep ukoll, f'ċertu sens. (OpenAI)
Claude Cowork fl-aħħar jiftakar x'għedt lill-app fiċ-chat ↗
Anthropic għaqqad il-memorja ta' Claude fiċ-chat regolari u l-Cowork. L-informazzjoni li titgħallem waqt il-konversazzjonijiet issa tista' ssegwi lill-utenti f'kompiti agentiċi, u b'hekk tneħħi dak ir-ritwali kemxejn tedjanti li tispjega l-istess proġett darba wara l-oħra.
L-utenti jistgħu jispezzjonaw, jeditjaw u jħassru suġġetti mfakkra, filwaqt li l-memorji jiġu aġġornati hekk kif il-konversazzjonijiet ikunu għadhom għaddejjin. Il-karatteristika hija attivata awtomatikament fil-pjanijiet Free, Pro u Max. (TechCrunch)
Google Cloud Tniedi Gemini Enterprise għall-Affarijiet Legali ↗
Google Cloud żvela pakkett Gemini Enterprise mibni apposta għall-avukati, li jimbotta l-aġenti tiegħu lil hinn minn chat ġenerika u jidħol fir-reviżjoni ta' kuntratti, riċerka legali, monitoraġġ regolatorju, talbiet għall-privatezza u tfassil ta' dokumenti.
Jinkludi konnetturi għal pjattaformi bħal Harvey, iManage, Docusign, RelativityOne u Thomson Reuters, filwaqt li jippreserva l-kontrolli tal-aċċess eżistenti tal-kumpaniji u l-ħitan etiċi. Is-serq tal-art mill-aġenti tal-AI laħaq id-dipartiment legali... kif mistenni, iżda xorta pjuttost malajr. (Google Cloud Press Corner)
Google Cloud Tniedi Gemini Enterprise għas-Servizzi Finanzjarji ↗
Google nediet ukoll offerta Gemini Enterprise speċifika għall-finanzi, inkluż aġent tar-Riċerka Finanzjarja ġestit, aktar minn 50 ħila speċjalizzata u 13-il konnettur għal sistemi ta’ dejta finanzjarja u tas-suq.
Il-pjattaforma timmira lejn flussi tax-xogħol inkluż valutazzjoni tar-riskju tal-kreditu, monitoraġġ tal-portafoll, riċerka KYC u analiżi tas-suq. CME Group u Deutsche Bank huma fost l-organizzazzjonijiet diġà involuti - l-aġenti tal-intrapriżi qed isiru dejjem aktar speċjalizzati, kważi bħal softwer liebes libsa. (Google Cloud Press Corner)
NVIDIA Tħabbar il-Kompjuter Robotiku Jetson Orin Nano 2 biex Jiddefinixxi mill-ġdid l-IA Edge tal-Livell tad-Dħul ↗
Nvidia introduċiet il-Jetson Orin Nano 2, kompjuter kompatt immirat lejn robots, drones u sistemi oħra ta' AI fiżika. Dan joffri 78 triljun operazzjoni kull sekonda, 8GB ta' memorja u CPU Arm bi tmien qlub.
Nvidia tgħid li l-prestazzjoni tal-inferenza tirdoppja meta mqabbla man-Nano Super preċedenti, filwaqt li t-tqabbil tal-prestazzjoni tiegħu jista' jirrikjedi 40% inqas enerġija. Mudelli iżgħar li jsiru ġenwinament kapaċi fuq hardware kompatt hija l-parti interessanti hawnhekk - l-AI m'għadhiex teħtieġ dejjem iċċempel liċ-ċentru tad-dejta ġgant. (NVIDIA Newsroom)
Perplexity tissieħeb ma' Nvidia biex tniedi Portable Computer, aġent tal-AI kompletament lokali mingħajr spejjeż ta' tokens ↗
Perplexity nediet Portable Computer, u ġabet l-esperjenza tagħha ta' Computer aġent fuq ħardwer lokali mħaddem minn Nvidia. Il-mudelli, il-fajls u l-eżekuzzjoni tal-aġent jistgħu jibqgħu fuq il-magna tal-utent, b'xogħol li jitlesta lokalment ma jikkonsma l-ebda kreditu tal-kontijiet tal-cloud.
Il-kompiti jibdew lokalment, u s-sistema titlob permess qabel ma teskala pass 'il quddiem għal mudell ta' cloud frontier. Din titnieda madwar sistemi Nvidia DGX Spark u Linux b'GPUs RTX qawwija biżżejjed - il-privatezza u l-ispiża f'daqqa waħda jsiru parti mill-argument tal-bejgħ tal-AI lokali, mhux biss il-veloċità. (Venturebeat)
Anthropic mistennija tgħid lill-investituri li tara aktar minn $30 triljun fi dħul potenzjali, jirrapporta l-WSJ ↗
Anthropic allegatament qed tipprepara biex tgħid lill-investituri li s-suq totali indirizzabbli tagħha jista' jaqbeż it- $30 triljun. Distinzjoni importanti - dik hija l-opportunità teoretika annwali kieku l-AI qabdet ix-xogħol rilevanti, mhux Anthropic li tbassar li se tkompli tagħmel $30 triljun. (Reuters)
Iċ-ċifra enormi tgħin biex tifformula l-infiq fuq l-infrastruttura ta' Anthropic, il-kompetizzjoni tagħha ma' OpenAI u Google, u l-istorja usa' tal-investitur. Huwa numru spettakolari kbir... anke meta mqabbel mal-istandards tan-numri tal-industrija tal-AI. (Reuters)
Mistoqsijiet Frekwenti
Xi jfissru r-riżultati taċ-ċippa Jalapeño tal-OpenAI għall-inferenza tal-AI?
OpenAI tgħid li Jalapeño pprovdiet rendiment ogħla għal kull kilowatt u latency aktar baxxa minn tarf sa tarf mis-sistema ta’ tqabbil tagħha waqt li kienet qed tħaddem GPT-OSS 120B. Kisbiet simili ġew irrappurtati b’DeepSeek R1 u Kimi K2.5. Ir-riżultati jissuġġerixxu li OpenAI qed tiddisinja dejjem aktar ħardwer madwar id-domandi partikolari ta’ effiċjenza u veloċità tal-inferenza tal-AI fuq skala kbira.
Kif taħdem il-memorja kondiviża ta' Claude fiċ-chat u l-Cowork?
Claude issa jista’ jġorr l-informazzjoni li jitgħallem f’konversazzjonijiet regolari f’kompiti ta’ Cowork, u b’hekk inaqqas il-ħtieġa li jispjega l-istess proġett jew kuntest ripetutament. L-utenti jistgħu jispezzjonaw, jeditjaw u jħassru suġġetti mfakkra, filwaqt li dawk il-memorji jistgħu jkomplu jiġu aġġornati hekk kif jiżviluppaw il-konversazzjonijiet. Skont it-tħabbira koperta fl-artiklu, il-karatteristika hija attivata awtomatikament fil-pjanijiet Free, Pro u Max.
X'tista' tagħmel Gemini Enterprise għal Servizzi Legali u Finanzjarji?
L-offerti speċjalizzati ta' Gemini Enterprise ta' Google Cloud huma mmirati lejn flussi tax-xogħol speċifiċi għall-industrija aktar milli lejn chat ġeneriku tal-AI. Il-pakkett legali jkopri oqsma bħar-reviżjoni tal-kuntratti, ir-riċerka, il-monitoraġġ regolatorju, it-talbiet għall-privatezza u l-abbozzar, filwaqt li l-verżjoni tas-servizzi finanzjarji tappoġġja flussi tax-xogħol inkluż valutazzjoni tar-riskju tal-kreditu, monitoraġġ tal-portafoll, riċerka KYC u analiżi tas-suq. It-tnejn jistgħu wkoll jikkonnettjaw ma' sistemi ta' dejta u softwer professjonali eżistenti.
Għaliex l-inferenza lokali tal-AI qed issir aktar importanti?
L-inferenza lokali tal-AI tista' ssaħħaħ il-privatezza, tnaqqas id-dipendenza fuq l-infrastruttura tal-cloud u potenzjalment tnaqqas l-ispejjeż kontinwi tal-użu. Il-Jetson Orin Nano 2 ta' Nvidia jimmira lejn robots, drones u sistemi oħra tat-tarf, filwaqt li l-Portable Computer ta' Perplexity jżomm il-mudelli, il-fajls u l-eżekuzzjoni tal-aġenti fuq hardware lokali kompatibbli. F'ħafna flussi tax-xogħol, il-mudelli tal-cloud jistgħu mbagħad jiġu riżervati għal kompiti li jeħtieġu kapaċità addizzjonali.
Kif jiddeċiedi Perplexity Portable Computer meta juża l-cloud AI?
Il-kompiti huma ddisinjati biex jibdew fuq il-hardware lokali tal-utent li jaħdem b'Nvidia, filwaqt li jżommu l-eżekuzzjoni tal-mudell kompatibbli u l-fajls fuq il-magna. Jekk pass jirrikjedi mudell ta' cloud frontier, is-sistema titlob permess lill-utent qabel ma teskalah. Ix-xogħol li jitlesta lokalment ma jikkonsmax krediti tal-kontijiet tal-cloud, u b'hekk l-approċċ ikun rilevanti għall-utenti kkonċernati kemm bil-privatezza kif ukoll bl-ispejjeż rikorrenti tal-inferenza.
Xi tfisser l-istima rrappurtata ta' Anthropic dwar is-suq tal-IA ta' $30 triljun?
Iċ-ċifra rrappurtata tirreferi għall-fehma ta' Anthropic dwar is-suq totali potenzjali indirizzabbli għall-IA, mhux tbassir li Anthropic innifisha se tiġġenera $30 triljun fi dħul annwali. Tirrappreżenta l-valur teoretiku tax-xogħol li l-IA tista' potenzjalment tindirizza fl-ekonomija kollha. L-istima tgħin ukoll tispjega għaliex il-kumpaniji ewlenin tal-IA qed jinvestu daqshekk fl-infrastruttura u l-kapaċitajiet tal-intrapriża.