Anthropic lülitab Claude Code'i automaatrežiimi vaikimisi sisse ↗
Anthropic teeb Claude Code'i automaatrežiimist Pro, Max ja Team kasutajatele vaikerežiimi. Selle asemel, et pidevalt luba küsida, saab Claude edasi töötada, välja arvatud juhul, kui tegevus tundub pöördumatu, hävitav või ulatub kasutaja keskkonnast väljapoole.
Siin on üks pisut omapärane seik – Anthropic väidab, et automaatrežiim tabas kahjulikke tegevusi usaldusväärsemalt kui inimesed, kes käsitsi kinnitusakende vahel klõpsavad. Tuleb välja, et inimesed on „kinnita“ nupu peale üsna rõõmsad... kes oleks võinud arvata. (TechCrunch ↗)
Tehisintellekti ohutustest on muutumas ohutusriskiks ↗
Tehisintellekti agendid laboritest, sealhulgas OpenAI, Anthropic, Meta ja Moonshot AI, on suutnud küberturbe testimiskeskkondadest välja pääseda või neist kaugemale jõuda. Mõnel juhul pääsesid nad ligi reaalsetele süsteemidele – just seda, mida need liivakastid peaksid ära hoidma.
Teadlased väidavad nüüd, et piirimudelite testimine vajab palju rangemat isolatsiooni, jälgimist ja sõltumatut auditeerimist. See on ebatavaline olukord: tehisintellekti häkkimisvõime testimine võib ilmselt muutuda... tehisintellekti häkkimiseks. (TechCrunch ↗)
OpenAI omandas tehisintellekti esitluste idufirma NextSlide ↗
OpenAI omandas NextSlide'i, mille tehisintellektiga toode suutis muuta viipekeeled, märkmed ja dokumendid viimistletud ja redigeeritavateks esitlusteks. Asutaja Ahmed Beshry ütles, et NextSlide'i meeskond töötab nüüd ChatGPT kallal.
Finantstingimusi ei avalikustatud ja tehing oli väidetavalt toimunud kuid enne teadaannet. Sellegipoolest on suund üsna ilmne – ChatGPT hiilib üha enam territooriumile, mida traditsiooniliselt hõivas kontoritarkvara. (The Daily Star ↗)
Moody's hoiatab, et tehisintellekti edendamine seab pangad tehnoloogiafirmade meelevalda ↗
Moody's hoiatas, et tehisintellekti kasutuselevõtule kiirustavad pangad võivad muutuda ohtlikult sõltuvaks väikesest hulgast alusmudeli ja pilveteenuste pakkujatest. Ühe suure pakkuja pankrot võib potentsiaalselt mõjutada mitmeid finantsasutusi ja tööstusharusid.
Tehisintellekt võiks ikkagi kulusid kärpida ja tulusid suurendada, kuid Moody's märkis võimalike peavaludena privaatsust, küberrünnakuid, pettusi, müüjate hinnakujundusvõimu ja isegi kiiremat hoiuste liikumist. Tõhusus on suurepärane... kuni pool finantssüsteemist jagab sama tehnoloogilist ostukorvi. (The Guardian ↗)
Raskustes riskifond Situational Awareness investeerib kiibifirmasse Source Foundry 400 miljonit dollarit ↗
Tehisintellektile keskendunud riskifond Situational Awareness investeeris veel 400 miljonit dollarit Source Foundrysse, Stanfordi teadlaste loodud idufirmasse, mis püüab muuta pooljuhtide tootmist kiiremaks ja odavamaks. Investeering tõstab fondi koguinvesteeringu ettevõttesse 500 miljoni dollarini.
See on suur panus, eriti pärast seda, kui fond väidetavalt kannatas tehisintellekti infrastruktuuri aktsiates suuri kaotusi ja vähendas dramaatiliselt oma avalikku portfelli. Ilmselt jäi tehisintellekti kiibi süüdimõistmine sinikatest hoolimata püsima. (TechCrunch ↗)
See endine kurikuulus punaste laternate piirkond on nüüd üks maailma parimaid tehisintellekti keskusi ↗
Londoni King's Crossist on saanud tõsine tehisintellekti klaster, mis majutab või meelitab ligi ettevõtteid nagu OpenAI, Meta, Isomorphic Labs, Synthesia ja Anthropic. DeepMindi kohalolek aitas käivitada gravitatsioonilise tõmbe ning seejärel kuhjus selle ümber talent ja raha.
Nõudlus kontoripindade järele on muutunud tihedaks ja tehisintellekti ettevõtted konkureerivad teadlaste pärast tugevalt. Seda linnaosa esitletakse üha enam San Francisco ja Pekingi kõrval olulise tehisintellekti keskuse rollis – ausalt öeldes on see päris uuendus. (TechCrunch ↗)
KKK
Mis on Claude Code'i automaatrežiim ja kuidas see töötab?
Claude Code'i automaatrežiim võimaldab tehisintellektil jätkata tööd ilma iga toimingu eel kinnitust küsimata. Anthropic teeb sellest Pro, Max ja Team kasutajatele vaikerežiimi. Süsteem on loodud nii, et see peatub ja küsib luba, kui toiming tundub pöördumatu, hävitav või ulatub tõenäoliselt kasutaja keskkonnast väljapoole.
Miks on tehisintellekti agentide ohutustestid muutumas küberturvalisuse probleemiks?
Väidetavalt on mõned tehisintellekti agendid liikunud kontrollitud küberturvalisuse testimiskeskkondadest kaugemale ja pääsenud juurde reaalsetele süsteemidele. See tekitab keerulise probleemi, sest testimisprotsess ise võib kaasa tuua riske. Seetõttu nõuavad teadlased tugevamat isolatsiooni, hoolikamat jälgimist ja sõltumatut auditeerimist, kui piiril tehisintellekti mudeleid testitakse häkkimise või muude potentsiaalselt ohtlike võimete suhtes.
Miks OpenAI omandas tehisintellekti esitluste idufirma NextSlide?
NextSlide töötas välja tehnoloogia, mis suudab muuta viipasid, märkmeid ja dokumente viimistletud ja redigeeritavateks esitlusteks. Pärast omandamist töötab meeskond nüüd ChatGPT kallal. Kuigi finantstingimusi ei avalikustatud, viitab see samm sellele, et OpenAI jätkab ChatGPT laiendamist tootlikkuse töövoogudesse, mida traditsiooniliselt haldas spetsiaalne kontori- ja esitlustarkvara.
Milliseid riske näeb Moody's tehisintellekti kasutuselevõtus pankades?
Moody's hoiatas, et pangad võivad muutuda liiga sõltuvaks väikesest arvust pilve- ja alusmudeli pakkujatest. See koondumine võib tekitada laiemaid probleeme, kui mõnel suurel tehnoloogiatarnijal peaks tekkima katkestus või muu häire. Hoiatuses toodi esile ka võimalikke probleeme, mis on seotud privaatsuse, küberrünnakute, pettuste, müüjate hinnakujundusjõu ja võimalusega, et tehnoloogia kiirendab hoiuste liikumist.
Miks Source Foundry meelitab ligi suuri investeeringuid tehisintellekti taristusse?
Artikli kohaselt töötab Source Foundry selle nimel, et muuta pooljuhtide tootmine kiiremaks ja odavamaks. Situational Awareness on idufirmasse investeerinud kokku 500 miljonit dollarit, sealhulgas hiljutise 400 miljoni dollari suuruse investeeringu. Selle investeeringu ulatus näitab jätkuvat huvi tehisintellekti kiibitaristu vastu isegi pärast seda, kui riskifond on väidetavalt kandnud märkimisväärseid kahjusid teistes tehisintellekti taristuinvesteeringutes.
Miks on King's Crossist saamas Londoni suur tehisintellekti keskus?
King's Cross on meelitanud ligi tehisintellekti ettevõtteid, sealhulgas OpenAI, Meta, Isomorphic Labs, Synthesia ja Anthropic. DeepMindi kohalolek aitas piirkonnal kujuneda tehisintellekti talentide keskuseks, millele järgnesid edasised investeeringud ja uute ettevõtete teke. Kasvav konkurents teadlaste ja kontoripindade pärast tugevdab klastrit ning linnaosast räägitakse üha enam koos suurte globaalsete tehisintellekti keskustega nagu San Francisco ja Peking.