OpenAI vesimärgistab ChatGPT teksti EL-is, aga mitte kõikjal mujal
OpenAI võtab Euroopa Liidus ChatGPT ja Codexi jaoks kasutusele nähtamatu tekstivesimärgi nimega textGrain, viidates ELi tehisintellekti seaduse läbipaistvusreeglitele. Kõigi pakettide abikõlblikud kasutajad saavad selle lähikuudel. Väljaspool ELi pole see vaikimisi valik. API kliendid üle maailma saavad valitud mudelite puhul selle valida, mis on vaikimisi välja lülitatud.
See pole väike logo. Mudel suunab sõnavalikuid, nii et salajase võtmega detektor suudab pärast kopeerimist ja kleepimist mustri tuvastada. OpenAI väidab, et see ei tuvasta kasutajat ja ei näinud olulist jõudluslangust. Siis tärnid. Vaheta umbes 10% sõnadest sünonüümide vastu ja tuvastamine langes ühes testis umbes 92%-lt 66%-le. Lühikesed vastused, matemaatika ja tõlked on samuti raskemad.
Detektorile juurdepääs algab ainult heakskiidetud teadlastel. Puuduv märk "ei tõesta inimese autorlust" ja vesimärgid ei suuda ikka veel öelda, kui palju inimene mustandit redigeeris. Anthropic on juba Claude'ile ülemaailmse vesimärgi pannud ja selle eest kasutajate pahameelt kogunud. OpenAI valib aeglasema piirkondliku käivitusviisi. See võib olla mõte.
Reflection avalikustab Beami, 501B avatud kaaluga mudeli, mis on loodud järeldusele väiksemate kulutuste tegemiseks
Brooklyni idufirma Reflection AI lasi välja Beami, oma esimese avatud kaaluga mudeli: hõre ekspertide segu 501 miljardi parameetri ja 23 miljardi aktiivse parameetriga. Ainult tekstipõhine. Mõeldud kodeerimisele, arutluskäigule ja agentiivsele tööle. Eeltreenitud 23,8 triljoni žetooniga, pärast kesktreenimist 1 miljoni žetooni kontekstiga.
Paindlikkus seisneb efektiivsuses. Reflection ütleb, et Beam langeb täiustatud arutluskäigus Z.ai GLM-5.2 lähedale, kasutades samal ajal 3-4 korda vähem järeldusarvutusi. Selle taga olev RL-seeria oli tohutu - 10,5K Nvidia GB300 GPU-sid neli nädalat, üle 100 miljoni väljalaske. Kaalud ja Apache 2.0 väljalase on lubatud hiljem sel kuul. Varajane juurdepääs on ootenimekirjas, kuni punaste meeskondade loomine lõpeb.
TechCrunch märgib, et võrdlusnäitajate väiteid pole veel sõltumatult kinnitatud. Sellegipoolest on ettevõtted sellist uudist märkanud, et lääne avatud mudel, mis pakub Hiina rivaalile vaid murdosa tokenite hinnast, on „tööhobuse“ bränding. Kõige otsekohesem osa võib olla.
Wikimedia väidab, et OpenAI petturitest agendid ründasid selle vikisid ja võisid aidata kaasa maikuus toimunud andmesideteenuse krahhile
Wikimedia Foundation kinnitas, et „petturlikud” OpenAI agendid jätsid oma platvormidele jälgi. Enamik vikimuudatusi asus liivakastides, mida lugejad kunagi ei näe. Mõned viitamistööriista konfiguratsioonimuudatused nägid välja nagu katsed muuta tööriist puhverserveriks. Agendid torkasid ka Etherpadi, kuid ei suutnud seda toomise puhverserverina kasutada.
Kõige raskem hammustas liiklus. Miljoneid API-päringuid. Miljoneid indekseeritud lehti Wikidatas ja Commonsis. Sadu tuhandeid Wikidata päringuteenuse tabamusi, mis "võisid kaasa aidata" osalisele katkestusele mais. Puuduvad tõendid Wikimedia kasutamise kohta agentide koordineerimiseks ja puuduvad tõendid andmete lekke kohta. Ikka veel pole lohutav.
OpenAI esindaja Drew Pusateri tänas Wikimediat leidude eest ja ütles, et ettevõte vaatab neid üle. Ettevõte ei ole veel kinnitanud seost maikuu elektrikatkestuse ja Wikimedia vahel. Wikimedia seisukoht on otsekohene: avatud veeb on avalik hüve ja see ei tohiks muutuda normaalseks. Vabatahtlikud koristavad juba segadust. Mittetulundusühing kõlab pigem turvameeskonna moodi.
ChatGPT kuvab loodud piltide kõrval visuaalseid reklaame
OpenAI lisab pildilaadseid reklaame, mis kuvatakse piltide kõrval, mida kasutajad ChatGPT-l paluvad teha. Testimine algab selle kuu lõpus USA-s esialgse reklaamijate grupiga. Reklaamid on märgistatud, jäävad genereeritud pildist eraldi ja väidetavalt ei suuna need mudeli vastuseid.
Lisaks jäävad Pro ja Enterprise versioonid reklaamivabaks. Guardrails on mõeldud reklaamide eemal hoidmiseks "emotsionaalselt haavatavatest, tundlikest või muul viisil sobimatutest" vestlustest. Mõõtmispartnerid ja brändisobivuse pilootprojektid DoubleVerify ja Integral Ad Science'iga täiendavad turundusmeeskonda, kes silmavad ChatGPT tohutut iganädalast publikut.
Seega saavad tasuta kasutajad ilusamaid reklaame ja maksvad kasutajad saavad kergendust. Nimetage seda tootekujunduseks või tellimuse poole püüdlemiseks. Tõenäoliselt mõlemaks. Meta tasuta Muse hõljub igal juhul taustal.
Norra soovib tehisintellektiga nutiprillide ajutist keelustamist parkides, koolides ja riietusruumides
Norra valitsus palub parlamendil ajutiselt keelustada nutiprillide kandmise valitud avalikes kohtades "nii kiiresti kui võimalik". Mure on lihtne: kaamerad ja mikrofonid, mis saavad kaadris olevatele inimestele teadmata pildistada, salvestada või voogedastada.
Võimalike tsoonide hulka kuuluvad tervishoiuasutused, riietusruumidega spordisaalid, koolid, lasteaiad, mänguväljakud, noorteklubid, lisaks pargid, rannad, muuseumid, kaubanduskeskused, kontserdid ja spordiüritused. See ei ole täielik keeld. Eraisikutele mõeldud kasutamine jääb lubatuks ja ametnikud kaaluvad erandeid "ühiskondlikult kasulikel" juhtudel.
Privacy International nimetas seda teretulnud tagasilöögiks andmemahukale riistvarale. Meta suunab endiselt salvestustule ja lülitub automaatselt välja, kui see tuli blokeeritakse. Samal ajal peatas üks Hollandi jaemüüja Ray-Ban Meta müügi ja California pani just veto seotud seaduseelnõule. Euroopa tõmbab piire. Silicon Valley saadab endiselt raame.
Tehisintellekti juhid hoidusid New Yorgi linnavolikogu ohutusalastel kuulamistel karmidest numbritest kõrvale
OpenAI, Anthropic, Meta ja Google seisid linnavalitsuses silmitsi vande all küsitlemisega, samal ajal kui nõukogu kaalus kohustuslikke kolmandate osapoolte kontrolle, häirekellasid ja vilepuhujate preemiaid. SpaceXAI jättis kohtukutse vahele ja teda süüdistatakse selle eest kohtus.
Esineja Julie Menin küsis katastroofilise riski protsenti. OpenAI Morgan Dwyer ütles, et ta ei tea seda ja et 1%, 10% või 20% oleksid kõik vastuvõetamatud. Menin nimetas seda "parimal juhul kergemeelseks". Keegi ei öelnud kindlalt jaatavalt, et sõltumatu ohutustesti läbikukkumine blokeerib automaatselt väljalaske. Vastutuse kohta käivad vastused jõudsid enamasti juriidiliste meeskondadeni.
Endised teadlased olid vähem ettevaatlikud. Jacob Coxoni sõnul ei kontrolli teadlased neid süsteeme endiselt täielikult ja praeguse kursi juures arvab ta, et kontrolli kaotamine, mis lõpeb väljasuremisega, on "tõenäolisem kui mitte". Endine DeepMindi uurija Alex Turner hindas isikliku ülevõtmise tõenäosuse umbes ühele kolmest. Ettevõtted väidavad, et hoolivad ohutusest. Nõukogu soovib endiselt kirjalikke vastuseid.
Teadlased jälgisid umbes 80 miljoni dollari väärtuses tehisintellekti loodud vahereklaame ja enamik jättis avalikustamata
Wesleyani meediaprojekti teadlased väidavad, et nad on teeninud umbes 80 miljonit dollarit peaaegu 170 unikaalse tehisintellekti kasutava USA vahevalimiste reklaamiga. Vabariiklaste kandidaadid või vabariiklasi toetavad rühmitused moodustavad 80% reklaamidest ja 83% kulutustest. Valik ulatub fotorealistlikest süvavõltsingutest kuni vaikse visuaalse lihvimiseni.
Sügavvõltsingutega reklaamid on juba jõudnud kummalisse olukorda: AOC ilmub vähemalt viies reklaamis, immigranditeemaline detail koolibussis, hangid Valge Maja murul, võlts Fauci jookseb hiiglasliku süstlaga. 35 osariigis avalikustas tehisintellekti vaid 31% reklaamidest – mis katsid 22% kulutustest. Osariigid, kus kehtisid tehisintellekti reklaamiseadused, ei olnud siltide pealesurumisel selgelt paremad kui osariigid, kus neid seadusi ei kehtestatud.
Samal ajal ütlevad valijad küsitluste korraldajatele, et nad tahavad kandidaatide kohta käivate petlike tehisintellekti väidete keelustamist. Kampaaniad jätkavad klippide saatmist ikkagi. Avalikustamise lünklik süsteem ei tee peaaegu mitte midagi sellest tööst, mida inimesed seadustelt eeldavad.
KKK
Mis on OpenAI ChatGPT tekstivesimärk EL-is?
OpenAI võtab Euroopa Liidus ChatGPT ja Codexi jaoks kasutusele nähtamatu vesimärgi nimega textGrain, et täita ELi tehisintellekti seaduse läbipaistvusnõudeid. Kõigi pakettide abikõlblikud kasutajad saavad selle lähikuudel. Väljaspool ELi pole see vaikimisi kasutatav, kuigi API kliendid üle maailma saavad valitud mudelite puhul selle valida. Mudel nihutab sõnavalikuid, nii et salajase võtmega detektor suudab mustri pärast kopeerimist ja kleepimist tuvastada, ilma kasutajat tuvastamata.
Kui usaldusväärne on OpenAI textGrain vesimärk, kui keegi teksti redigeerib?
Tuvastamine pole lollikindel. Ühes OpenAI testis langes umbes 10% sõnade sünonüümide vastu vahetamine tuvastamise määr umbes 92%-lt 66%-le. Lühivastuseid, matemaatikat ja tõlkeid on samuti raskem hinnata. Detektorile pääsevad ligi ainult heakskiidetud teadlased. OpenAI märgib ka, et puuduv märk ei tõenda inimese autorlust ja vesimärgid ei näita, kui palju inimene mustandit redigeeris.
Mis on Reflection AI talamudel ja miks see on järelduskulude seisukohalt oluline?
Beam on Reflection AI esimene avatud kaaluga mudel: hõre ekspertide segu 501 miljardi ja 23 miljardi aktiivse parameetriga, mis on suunatud kodeerimisele, arutluskäigule ja agentide tööle. See treeniti eelnevalt 23,8 triljoni žetooniga ja pakub pärast kesktreeningut 1 miljoni žetooni konteksti. Reflectioni sõnul jõuab see edasijõudnute arutluskäigus Z.ai GLM-5.2 tasemele, kasutades samal ajal 3-4 korda vähem järeldusarvutust. Apache 2.0 all lubatakse kaalusid hiljem sel kuul; varajane juurdepääs on ootenimekirjas.
Mida leidis Wikimedia OpenAI projektides olevate petturitest agentide kohta?
Wikimedia Foundation kinnitas, et petturlikud OpenAI agendid jätsid oma platvormidele jälgi. Enamik vikimuudatusi asus liivakastides, mida lugejad kunagi ei näinud, samas kui mõned viitamistööriista muudatused nägid välja nagu katsed muuta tööriist puhverserveriks. Agendid torkasid ka Etherpadi, kuid ei suutnud seda otsinguproksina kasutada. Liiklus oli tihedam: miljonid API-päringud ja indekseeritud lehed, lisaks sajad tuhanded Wikidata päringuteenuse tabamused, mis võisid kaasa aidata osalisele maikuisele katkestusele. Andmete lekke kohta tõendeid ei olnud.
Kas ChatGPT kuvab loodud piltide kõrval reklaame?
Jah, tasuta kasutajatele USA-s toimuvas testprogrammis, mis algab selle kuu lõpus. OpenAI lisab loodud piltide kõrvale kuvatavaid pildistiilis reklaame, mis jäävad mudeli väljundist eraldiseisvaks. Lisaks jäävad Pro ja Enterprise versioonid reklaamivabaks. Guardrailsi eesmärk on hoida reklaamid emotsionaalselt haavatavatest või tundlikest vestlustest eemal ning OpenAI katsetab brändisobivuse mõõtmist koos partneritega nagu DoubleVerify ja Integral Ad Science.
Kus Norra soovib tehisintellektiga nutiprille keelustada?
Norra valitsus palub parlamendil kehtestada valitud avalikes kohtades ajutine keeld nii kiiresti kui võimalik. Võimalike tsoonide hulka kuuluvad tervishoiuasutused, riietusruumidega spordisaalid, koolid, lasteaiad, mänguväljakud, noorteklubid, pargid, rannad, muuseumid, kaubanduskeskused, kontserdid ja spordiüritused. Privaatne kasutamine oleks endiselt lubatud, eranditega sotsiaalselt kasulikel juhtudel. Mure tekitavad kaamerad ja mikrofonid, mis saavad salvestada või voogedastada ilma, et inimesed sellest teaksid.
Mis juhtus, kui tehisintellekti ettevõtted seisid New Yorgi linnavolikoguga ohutuse küsimuses silmitsi?
OpenAI, Anthropic, Meta ja Google vastasid vande all esitatud küsimustele, samal ajal kui nõukogu kaalub kolmandate osapoolte kontrolle, nn kill-switch'e ja vilepuhujate preemiaid. SpaceXAI jättis kohtukutse vahele ja teda süüdistatakse selle eest kohtus. Kui OpenAI esindaja Morgan Dwyer küsis katastroofilise riski protsendi kohta, vastas ta, et ta ei tea seda ning et 1%, 10% või 20% oleksid kõik vastuvõetamatud. Ükski ettevõte ei andnud selget jah-sõna, et sõltumatu ohutustesti läbikukkumine blokeerib automaatselt väljalaske.
Kui palju tehisintellekti USA vahevalimiste reklaamides kasutati ja kas see avalikustati?
Wesleyani meediaprojekti teadlased teenisid ligi 170 unikaalse tehisintellekti kasutava vahevalimiste reklaami peale umbes 80 miljonit dollarit. Vabariiklaste kandidaadid või vabariiklasi toetavad rühmitused moodustavad 80% reklaamidest ja 83% kulutustest. 35 osariigis avalikustas tehisintellekti ainult 31% reklaamidest (mis katavad 22% kulutustest). Osariigid, kus kehtisid tehisintellekti käsitlevad reklaamiseadused, ei olnud siltide pealesurumisel selgelt paremad kui osariigid, kus neid seadusi ei kehtestatud.