Milline on suurtehnoloogia roll tehisintellektis? [Video ja viktoriin]

Lühike vastus: Suurtehnoloogia on tehisintellektis oluline, sest see kontrollib ebaglamuurseid põhielemente – arvutustehnikat, pilveplatvorme, seadmeid, rakenduste poode ja ettevõtte tööriistu. See kontroll võimaldab tal rahastada tippmudeleid ja pakkuda funktsioone kiiresti miljarditele inimestele. Kui juhtimine, privaatsuse kontroll ja koostalitlusvõime on nõrgad, siis sama hoob kaltsifitseerib end seotuks ja võimu kontsentreerumiseks.

Peamised järeldused:

Taristu: Pilve, kiipide ja MLOpsi juhtimist käsitletakse peamise tehisintellekti piiranguna.

Levitamine: Oodake platvormivärskendusi, mis defineerivad, mida tehisintellekt enamiku kasutajate jaoks tähendab.

Väravahoidmine: rakenduste poe reeglid ja API tingimused määravad vaikselt, millised tehisintellekti funktsioonid saadaval on.

Kasutajakontroll: nõudke selgeid loobumisvõimalusi, püsivaid seadeid ja toimivaid administraatori juhtelemente.

Vastutus: Nõuda auditilogisid, läbipaistvust ja apellatsioonivõimalusi kahjulike tulemuste korral.

🔗 Tehisintellekti tulevik: trendid ja mis edasi saab
Järgmise kümnendi jooksul muutusid peamised uuendused, riskid ja tööstusharud.

🔗 Generatiivse tehisintellekti alusmudelid: lihtne juhend
Mõista, kuidas alusmudelid toetavad tänapäevaseid genereeriva tehisintellekti rakendusi.

🔗 Mis on tehisintellekti ettevõte ja kuidas see töötab
Õpi tundma tehisintellektil põhinevaid ettevõtteid iseloomustavaid omadusi, meeskondi ja tooteid.

🔗 Milline tehisintellekti kood päris projektides välja näeb
Vaadake tehisintellektil põhinevate koodimustrite, tööriistade ja töövoogude näiteid.

Olgem korraks ausad – enamik „tehisintellekti teemalisi vestlusi” libiseb mööda sellistest ebaglamuursetest osadest nagu arvutus, levitamine, hankimine, vastavus ja ebamugav reaalsus, et keegi peab graafikaprotsessorite ja elektri eest maksma. Suurtehnoloogiaettevõtted elavad just nendes ebaglamuursetes osades. Just seetõttu on see nii oluline. 😅 (IEA – energia ja tehisintellekt, NVIDIA – tehisintellekti järeldusplatvormide ülevaade)

Suurtehnoloogiaettevõtete tehisintellekti roll lihtsas keeles 🧩

Kui inimesed ütlevad „suured tehnoloogiaettevõtted”, peavad nad tavaliselt silmas hiiglaslikke platvormifirmasid, mis kontrollivad tänapäevase andmetöötluse peamisi kihte:

• Pilveinfrastruktuur (kus tehisintellekt töötab) ☁️ (Amazon SageMakeri tehisintellekti dokumendid, Azure'i masinõppe dokumendid, Vertexi tehisintellekti dokumendid)

• Tarbijaseadmed ja operatsioonisüsteemid (kuhu tehisintellekt maandub) 📱💻 (Apple Core ML, Google ML Kit)

• Rakenduste ökosüsteemid ja turuplatsid (kus tehisintellekt levib) 🛒 (Apple'i rakenduste ülevaatamise juhised, Google Play andmekaitse)

• Andmekanalid ja analüüsipaketid (kuhu tehisintellekti toidetakse) 🍽️

• Ettevõtte tarkvara (kus tehisintellekti abil raha teenitakse) 🧾

• Kiipide ja riistvara partnerlused (kus tehisintellekti kiirendatakse) 🧠🔩 (NVIDIA - tehisintellekti järeldusplatvormide ülevaade)

Seega pole roll lihtsalt selles, et „nad teevad tehisintellekti“. Pigem on see nagu nad ehitaksid maanteid, müüksid autosid, haldaksid teemaksu kogumise punkte ja otsustaksid ka, kuhu väljasõidud lähevad. Väike liialdus... aga mitte palju.

Suurtehnoloogiaettevõtete roll tehisintellektis: viis suurt töökohta 🏗️

Kui soovite puhast vaimset mudelit, kipuvad suurtehnoloogiaettevõtted tehisintellekti maailmas tegema viit kattuvat tööd:

1. Infrastruktuuri pakkuja
   Andmekeskused, pilveteenused, võrgustamine, turvalisus, MLOps tööriistad. Kõik see, mis muudab tehisintellekti mastaapselt teostatavaks. (Amazon SageMaker tehisintellekti dokumendid, IEA - energia ja tehisintellekt)

2. Mudeli koostaja ja uurimismootor
   Mitte alati, aga tihti - laborid, sisemine teadus- ja arendustegevus, rakendusuuringud ja „tootestatud teadus“. (Neuraalkeele mudelite skaleerimisseadused (arXiv), arvutusoptimaalsete suurte keelemudelite treenimine (Chinchilla) (arXiv))

3. Levitaja
   Nad saavad tehisintellekti sisestada otsingukastidesse, telefonidesse, e-posti klientidesse, reklaamisüsteemidesse ja töökoha tööriistadesse. Levitamine on supervõime.

4. Väravahoidja ja reeglite kehtestaja.
   Rakenduste poe poliitikad, platvormi reeglid, API tingimused, sisu modereerimine, turvaväravad, ettevõtte kontroll. (Apple'i rakenduste ülevaatamise juhised, Google Play andmekaitse).

5. Kapitali eraldaja
   Nad rahastavad, omandavad, partnerlussuhteid loovad, inkubeerivad. Nad kujundavad seda, mis jääb ellu.

See ongi suurtehnoloogiaettevõtete roll tehisintellektis funktsionaalses mõttes: nad loovad tehisintellekti eksisteerimiseks tingimused – ja seejärel otsustavad nad, kuidas see teieni jõuab.

Mis teeb Big Techist hea versiooni tehisintellekti rollist ✅😬

Tehisintellekti suurtehnoloogia „hea versioon” ei seisne täiuslikkuses. See seisneb vastutustundlikult tehtud kompromissides, kus kõigile teistele antakse vähem ootamatuid rünnakuid.

Siin on see, mis kipub eristama „kasuliku hiiglase“ ja „oh-oh monopoli“ tundeid:

• Läbipaistvus ilma žargooni mahakandmiseta.
  Tehisintellekti funktsioonide, piirangute ja kasutatavate andmete selge märgistamine. Mitte 40-leheküljeline poliitikalabürint. (NIST AI RMF 1.0, ISO/IEC 42001:2023)

• Päris kasutajakontroll.
  Toimivad loobumisvõimalused, privaatsusseaded, mis ei lähtestu salapäraselt, ja administraatori juhtelemendid, mis ei ole aaretejaht. (GDPR - määrus (EL) 2016/679)

• Koostalitlusvõime ja avatus – mõnikord
  ei pea kõik olema avatud lähtekoodiga, aga kõigi igaveseks ühe tarnija külge lukustamine on… valik.

• Ohutus ja ohutus. Kuritarvituste
  jälgimine, punaste rünnakute tõkestamine, sisukontroll ja valmisolek blokeerida ilmselgelt riskantseid kasutusjuhtumeid. (NIST AI RMF 1.0, NIST GenAI profiil (AI RMF kaaslane)).

• Terved ökosüsteemid.
  Toetus idufirmadele, partneritele, teadlastele ja avatud standarditele, et innovatsioon ei muutuks platvormi rentimise või kaotusega seotud probleemiks. (OECD tehisintellekti põhimõtted)

Ütlen otse: „hea versioon“ tundub nagu korralik kommunaalettevõte tugeva tootemaitsega. Halb versioon aga nagu kasiino, kus ka maja reeglid kirjutab. 🎰

Võrdlustabel: peamised suurtehnoloogiaettevõtete tehisintellekti rajad ja miks need toimivad 📊

Väike laua veidruse ülestunnistus: „tasuta-ish“ teeb seal palju tööd. Tasuta kuni see enam pole... teate küll, kuidas see käib.

Lähivõte: infrastruktuuri kitsaskoht (arvutus, pilv, kiibid) 🧱⚙️

See on osa, millest enamik inimesi ei taha rääkida, sest see pole glamuurne. Aga see on tehisintellekti selgroog.

Suurtehnoloogiaettevõtted mõjutavad tehisintellekti, kontrollides:

• Arvutusvõimsuse pakkumine (GPU-juurdepääs, klastrid, ajastamine) (IEA - tehisintellekti energiavajadus)

• Võrgustamine (suure ribalaiusega ühendused, madala latentsusega kangad)

• Salvestusruum (andmejärved, otsingusüsteemid, varukoopiad)

• MLOps torujuhtmed (koolitus, juurutamine, jälgimine, haldamine) (MLOps Vertex AI-l, Azure MLOps arhitektuurid)

• Turvalisus (identiteet, auditilogid, krüpteerimine, poliitika jõustamine) (NIST AI RMF 1.0, ISO/IEC 42001:2023)

Kui oled kunagi proovinud tehisintellekti süsteemi päris ettevõttes juurutada, siis tead juba, et „mudel“ on lihtne osa. Raske osa on: õigused, logimine, andmetele juurdepääs, kulude kontroll, tööaeg, intsidentidele reageerimine... täiskasvanutele mõeldud värk. 😵💫

Kuna suurtehnoloogiaettevõtted omavad sellest nii palju, saavad nad määrata vaikemustrid:

• Millised tööriistad muutuvad standardiks

• Millised raamistikud saavad esmaklassilist tuge?

• Millist riistvara eelistatakse

• Millised hinnamudelid muutuvad „normaalseks“?

See ei ole automaatselt kuri. Aga see on võim.

Lähivõte: mudeliuuring vs toote reaalsus 🧪➡️🛠️

Siin on pinge: suured tehnoloogiaettevõtted saavad rahastada süvauuringuid ja vajavad ka kvartalisi tootevõite. See kombinatsioon toob kaasa hämmastavaid läbimurdeid ja ka… küsitavaid funktsioonide turuletoomisi.

Suurtehnoloogiaettevõtted juhivad tehisintellekti arengut tavaliselt järgmiste vahenditega:

• Massiivsed treeningtsüklid (skaala loeb) (neuraalkeele mudelite skaleerimisseadused (arXiv))

• Sisehindamise protsessid (võrdlusuuringud, ohutustestid, regressioonikontrollid) (NIST GenAI profiil (AI RMF-i kaaslane))

• Rakendusuuring (artiklite muutmine tootekäitumiseks)

• Tööriistade täiustused (destilleerimine, kokkusurumine, serveerimise efektiivsus)

Kuid toote rõhk muudab asju:

• Kiirus võidab elegantsi

• Saatmine läheb keerulisemaks

• „Piisavalt hea” on parem kui „täielikult mõistetud”

Mõnikord on see okei. Enamik kasutajaid ei vaja teoreetilist puhtust, nad vajavad oma töövoos abivalmi abilist. Kuid oht on selles, et „piisavalt hea“ rakendatakse tundlikes kontekstides (tervishoid, töölevõtmine, rahandus, haridus), kus „piisavalt hea“... ei ole piisavalt hea. (ELi tehisintellekti seadus - määrus (EL) 2024/1689)

See on osa suurtehnoloogiaettevõtete rollist tehisintellektis – tipptasemel võimekuse tõlkimine massituru funktsioonideks, isegi kui servad on veel teravad. 🔪

Lähivõte: levitamine on tõeline supervõime 🚀📣

Kui suudad tehisintellekti paigutada kohtadesse, kus inimesed juba digitaalselt elavad, ei pea sa kasutajaid "veenma". Sinust saab lihtsalt vaikimisi seade.

Suurtehnoloogiaettevõtete turustuskanalite hulka kuuluvad:

• Otsinguribad ja brauserid 🔎

• Mobiilioperatsioonisüsteemide assistendid 📱

• Töökoha sviidid (dokumendid, post, vestlus, koosolekud) 🧑💼

• Sotsiaalmeedia kanalid ja soovitussüsteemid 📺

• Rakenduste poed ja platvormide turuplatsid 🛍️ (Apple'i rakenduste arvustuse juhised, Google Play andmekaitse)

Seepärast teevad väiksemad tehisintellekti ettevõtted sageli koostööd suurtehnoloogiaettevõtetega, isegi kui nad selle pärast närvis on. Levitamine on hapnik. Ilma selleta võib sul olla maailma parim mudel ja ikkagi tühjusesse karjuda.

Samuti on olemas peen kõrvalmõju: levitamine kujundab seda, mida tehisintellekt avalikkuse jaoks üldse tähendab. Kui tehisintellekt ilmub peamiselt kirjutamisabilise rollis, eeldavad inimesed, et tehisintellekt on seotud kirjutamisega. Kui see ilmub fototöötlusena, eeldavad inimesed, et tehisintellekt on seotud piltidega. Platvorm määrab õhkkonna.

Lähivõte: andmed, privaatsus ja usaldustehing 🔐🧠

Tehisintellekti süsteemid muutuvad sageli tõhusamaks, kui need on isikupärastatud. Isikupärastamiseks on sageli vaja andmeid. Ja andmed loovad riski. See kolmnurk ei kao kunagi ära.

Suurtehnoloogiaettevõte asub:

• Tarbijakäitumise andmed (otsingud, klikid, eelistused)

• Ettevõtte andmed (e-kirjad, dokumendid, vestlused, piletid, töövood)

• Platvormi andmed (rakendused, maksed, identiteedisignaalid)

• Seadme andmed (asukoht, andurid, fotod, häälsisendid)

Isegi kui „toorandmeid” otse ei kasutata, kujundab ümbritsev ökosüsteem koolitust, peenhäälestust, hindamist ja toote suunda.

Usaldusleping näeb tavaliselt välja selline:

• Kasutajad nõustuvad andmete kogumisega, kuna toode on mugav 🧃

• Reguleerivad asutused suruvad vastu, kui asi jubedaks läheb 👀 (GDPR - määrus (EL) 2016/679)

• Ettevõtted reageerivad kontrollimeetmete, eeskirjade ja privaatsust esikohale seadva sõnumiga

• Kõik vaidlevad selle üle, mida tähendab "privaatsus"

Praktiline rusikareegel, mida olen näinud toimivat: kui ettevõte suudab oma tehisintellekti andmepraktikaid ühe vestlusega selgitada ilma juriidilise keele taha peitumata, siis läheb neil tavaliselt keskmisest paremini. Mitte ideaalselt – lihtsalt paremini.

Lähivõte: valitsemine, ohutus ja vaikne mõjuvõimu mäng 🧯📜

See on vähem nähtav roll: suurtehnoloogiaettevõtted aitavad sageli määratleda reegleid, mida kõik teised järgivad.

Nad kujundavad valitsemist järgmiste vahenditega:

• Sisemised ohutuspoliitikad (millest mudel keeldub) (NIST AI RMF 1.0)

• Platvormi eeskirjad (mida rakendused teha võivad) (Apple'i rakenduste ülevaatamise juhised, Google Play andmekaitse)

• Ettevõtte vastavusfunktsioonid (auditeerimisjäljed, säilitamine, andmepiirid) (ISO/IEC 42001:2023, ELi tehisintellekti seadus - määrus (EL) 2024/1689)

• Osalemine tööstusstandardite väljatöötamises (tehnilised raamistikud, parimad tavad) (OECD tehisintellekti põhimõtted, ISO/IEC 42001:2023)

• Lobitöö ja poliitikakujundamine (jah, see osa ka)

Mõnikord on see tõeliselt kasulik. Suured tehnoloogiaettevõtted saavad investeerida turvameeskondadesse, usaldusvahenditesse, kuritarvituste avastamisse ja vastavusinfrastruktuuri, mida väiksemad tegijad endale lubada ei saa.

Mõnikord on see omakasupüüdlik. Ohutusest võib saada vallikraav, kus ainult suurimad tegijad saavad endale lubada nõuete täitmist. See ongi nüanss: ohutus on vajalik, kuid kallis ohutus võib kogemata konkurentsi külmutada. (ELi tehisintellekti seadus – määrus (EL) 2024/1689)

Siin loeb nüanss. Ka mitte lõbus nüanss – vaid tüütu tüüp. 😬

Lähivõte: konkurents, avatud ökosüsteemid ja idufirmade gravitatsioon 🧲🌱

Suurtehnoloogiaettevõtete roll tehisintellektis hõlmab ka turu kuju kujundamist:

• Ülevõtmised (talendid, tehnoloogia, levitamine)

• Partnerlussuhted (pilvedes majutatud mudelid, ühisettevõtte tehingud)

• Ökosüsteemi rahastamine (krediidid, inkubaatorid, turuplatsid)

• Avatud tööriistad (raamistikud, teegid, avatud versiooniga versioonid)

Olen jälginud mustri kordumist:

1. Startupid teevad uuendusi kiiresti

2. Big Tech integreerib või kopeerib eduka mustri

3. Startupid keskenduvad niššidele või saavad omandamisobjektideks

4. "Platvormi kiht" pakseneb

See ei ole automaatselt halb. Platvormid võivad vähendada hõõrdumist ja muuta tehisintellekti kättesaadavaks. Kuid see võib vähendada ka mitmekesisust. Kui iga toode muutub „ümbriseks samadele vähestele API-dele“, hakkab innovatsioon tunduma nagu mööbli ümberpaigutamine samas korteris.

Natuke korratut võistlust on tervislik. Nagu juuretisega juuretis. Kui kõik steriliseerida, siis see enam ei kerki. See metafoor on veidi ebatäiuslik, aga ma jään selle juurde. 🍞

Elades nii põnevuse kui ka ettevaatlikkusega 😄😟

Mõlemad tunded sobivad kokku. Põnevus ja ettevaatlikkus võivad samas ruumis eksisteerida.

Põhjused elevuseks:

• Kasulike tööriistade kiirem juurutamine

• Parem infrastruktuur ja töökindlus

• Madalam barjäär ettevõtetel tehisintellekti kasutuselevõtuks

• Rohkem investeeringuid ohutusse ja standardiseerimist (NIST AI RMF 1.0, OECD tehisintellekti põhimõtted)

Põhjused ettevaatlikkuseks:

• Arvutuse ja jaotuse konsolideerimine (IEA - tehisintellekti energiavajadus)

• Lukusta kliendid hinnakujunduse, API-de ja ökosüsteemide kaudu

• Privaatsusriskid ja jälgimistegevusega seotud tagajärjed (GDPR - määrus (EL) 2016/679)

• „Ühe ettevõtte poliitika“ saab kõigi reaalsuseks

Realistlik seisukoht on: suurtehnoloogiaettevõtted saavad tehisintellekti arengut kogu maailmas kiirendada, koondades samal ajal võimu. Need kaks tegurit võivad olla tõesed. Inimestele see vastus ei meeldi, sest selles puudub vürtsikus, kuid see vastab tõenditele.

Praktilisi nõuandeid erinevatele lugejatele 🎯

Kui oled äriostja 🧾

• Küsi endalt, kuhu sinu andmed lähevad, kuidas neid isoleeritakse ja mida administraatorid saavad kontrollida (GDPR - määrus (EL) 2016/679, ELi tehisintellekti seadus - määrus (EL) 2024/1689)

• Prioriseerige auditilogisid, juurdepääsukontrolli ja selgeid säilituspoliitikaid (ISO/IEC 42001:2023)

• Jälgige varjatud kulukõveraid (kasutushinnad lähevad kiiresti metsikuks)

Kui oled arendaja 🧑💻

• Ehitage kaasaskantavust silmas pidades (abstraktsioonikihid aitavad)

• Ära panusta kõike ühele müüja funktsioonile, mis võib kaduda

• Jälgige tariifipiiranguid, hinnamuudatusi ja eeskirjade uuendusi nagu see oleks osa teie tööst (sest see ongi) (Apple'i rakenduste ülevaatamise juhised, Google Play andmekaitse)

Kui oled poliitikakujundaja või vastavusjuht 🏛️

• Koostalitlusvõimeliste standardite ja läbipaistvusnormide edendamine (OECD tehisintellekti põhimõtted)

• Vältige reegleid, mida saavad endale lubada ainult hiiglased (ELi tehisintellekti seadus – määrus (EL) 2024/1689)

• Käsitle „jaotuskontrolli” põhiküsimusena, mitte järelmõttena

Kui oled tavakasutaja 🙋

• Siit saate teada, kus teie rakendustes tehisintellekti funktsioonid asuvad

• Kasutage privaatsuskontrolle isegi siis, kui need on tüütud (GDPR - määrus (EL) 2016/679)

• Suhtu skeptiliselt „maagilistesse” tulemustesse – tehisintellekt on enesekindel, aga mitte alati õige 😵

Lõppkokkuvõte: suurtehnoloogia roll tehisintellektis 🧠✨

Suurtehnoloogiaettevõtete roll tehisintellektis ei ole ühekordne. See on rollide kogum: infrastruktuuri omanik, mudeli looja, turustaja, väravavaht ja turu kujundaja. Nad ei osale tehisintellektis mitte ainult – nad määravad maastiku, kus tehisintellekt kasvab.

Kui mäletad ainult ühte rida, siis tee see nii:

Suurtehnoloogiaettevõtete roll tehisintellektis
See loob tehnoloogilisi raamistikke, seab standardeid ja suunab tehisintellekti jõudmist inimesteni – seda tohutus ulatuses ja tohutute tagajärgedega. (NIST AI RMF 1.0, ELi tehisintellekti seadus – määrus (EL) 2024/1689)

Ja jah, „tagajärjed” kõlab dramaatiliselt. Aga tehisintellekt on üks neist teemadest, kus dramaatilisus on mõnikord lihtsalt… täpne. 

Reaalse maailma näide: suurtehnoloogiaettevõtte tehisintellekti kasutuselevõtu testimine enne, kui see muutub fikseerituks 🧪🔐

Stsenaarium

Kujutage ette 120-liikmelist veebipoodi, mis soovib oma klienditoe töövoogu lisada tehisintellektiga assistendi. Meeskond kasutab juba suurt pilveteenuse pakkujat majutamiseks, suurtehnoloogiaettevõtte tootlikkuspaketti e-posti ja dokumentide jaoks ning API-de kaudu ühendatud kasutajatoe platvormi.

Ahvatlev tee on lihtne: lülita sisse sisseehitatud tehisintellekti funktsioonid, loo ühendus abikeskusega ja lase agentidel genereeritud vastuseid kasutada. Lihtne. Võib-olla isegi liiga lihtne. 😅

Targem on käsitleda seda väikese juhtimistestina: kas ettevõte saab tõhusat tehisintellekti tuge ilma, et ühele platvormile antaks liiga palju kontrolli andmete, küsimuste, töövoogude ja tulevaste kulude üle?

Mida assistent vajab

Tugitehisintellektil peaks olema juurdepääs ainult järgmisele:

• Avaliku abikeskuse artiklid

• Tagastuspoliitika

• Tarnepoliitika

• Heakskiidetud tagasimaksereeglite loend

• 20 näidet headest varasematest tugivastustest

• Selge eskaleerimisreegel vihaste klientide, juriidiliste ähvarduste, makseprobleemide ja meditsiiniliste/ohutusalaste kaebuste korral

• Administraatori logid, mis näitavad, milline agent tehisintellekti kasutas, mida see soovitas ja mis saadeti

Sellel ei tohiks olla avatud juurdepääsu klientide privaatsetele andmetele, sisemistele finantsdokumentidele, töötajate sõnumitele ega täielikule tellimuste ajaloole, välja arvatud juhul, kui selleks on konkreetne loa põhjus.

Näidisjuhis

Kasutage seda abilist klienditoe vastuste mustandite koostamiseks, mitte nende automaatseks saatmiseks.

Vasta ainult kinnitatud abikeskusest, tagastuspoliitikast, tarnepoliitikast ja tagasimakse reeglitest. Kui need allikad vastust selgelt ei toeta, paluge agendil see käsitsi üle vaadata.

Hoidke vastused alla 140 sõna. Kasutage rahulikku ja praktilist tooni. Ärge lubage raha tagastamist, tarnekuupäevi, allahindlusi ega õiguslikke tagajärgi, välja arvatud juhul, kui poliitika seda selgelt lubab.

Lisage alati kasutatud allikapoliitika. Kui klient mainib pettust, kohtumenetlust, vigastust, tagasimakseid, korduvaid ebaõnnestunud tarneid või üle 250 naela suurust tagasimakset, andke sellest teada inimjuhile.

Kuidas seda testida

Enne turuletoomist sai jaemüüja 30 vana tugiteenuse piletit kolme seadistuse kaudu käitada:

• Praegune käsitsi teostatav töövoog

• Suurtehnoloogiaettevõtte tootlikkuse komplekti tehisintellekti assistent

• Kaasaskantavam seadistus, mis kasutab sisemise viiba ja logimiskihi taga eraldi mudeli API-t

Testiküsimused peaksid hõlmama lihtsaid, keerulisi ja riskantseid juhtumeid:

• "Kus mu tellimus on?"

• "Ma tahan raha tagasi saada, aga ma avasin toote."

• „Teie kuller kahjustas mu saadetist ja ma annan teist teada.“

• "Makske mulle hüvitist või ma postitan selle kõikjale."

• "Kas saate selle raha teisele pangakaardile tagasi maksta?"

• „Mu laps sai selle toote kasutamisel viga.“

Inimlik retsensent peaks iga mustandit hindama täpsuse, tooni, eeskirjadele vastavuse, eskaleerimiskäitumise ja selle põhjal, kas vastus sisaldas piisavalt tõendeid.

Tulemus

Illustreeriv tulemus: 30 näidispileti ajastamise põhjal enne ja pärast töövoo kasutamist võib meeskond avastada, et keskmine esimese mustandi aeg langeb 6 minutilt 2 minutile pileti kohta.

300 pileti puhul nädalas tähendaks see:

• Käsitsi koostamise aeg: 1800 minutit nädalas

• Tehisintellekti abil koostamise aeg: 600 minutit nädalas

• Hinnanguline ajasääst: 1200 minutit nädalas ehk 20 tundi

Teravam mõõtmine ei ole aga ainult "aja kokkuhoid". Meeskond peaks jälgima ka vigu. Selles näidistestis oleks hea eesmärk:

• 0 automaatset saatmist ilma inimese kinnituseta

• 0 riskantsete testipiletite eskalatsiooni vahelejätmist

• 30 läbivaadatud mustandis vähem kui 2 poliitikaviga

• 100% tehisintellekti abil saadud vastustest lingiti tagasi kinnitatud allikale

See annab ostjale praktilise võrdluse: mitte „milline tehisintellekt tundub kõige lahedam?“, vaid „milline seadistus säästab aega, säilitades samal ajal kontrolli, tõendid ja auditeeritavuse?“

Mis võib valesti minna

Suurim viga on sisseehitatud tehisintellekti nupu käsitlemine täieliku töövoona. See ei ole seda.

Levinud probleemide hulka kuuluvad:

• Assistendi vastamine ebamäärase mälu, mitte kinnitatud eeskirjade põhjal

• Liiga vara liiga palju kliendiandmeid

• Küsimuste, mustandite, muudatuste ja lõplike vastuste logimine ebaõnnestub

• Unustades enne kasutuselevõttu servajuhtumeid testida

• Ühe müüja privaatsele funktsioonile nii sügavalt lootmine, et hilisem vahetamine muutub valusaks

• Mõõdetakse ainult kiirust, mitte täpsust ega eskalatsiooni kvaliteeti

Tugiassistent, kes koostab kiiresti dokumente, aga mõtleb välja tagasimakse lubadusi, ei suurenda tootlikkust. See on lihtsalt kiirem viis kaebuste esitamiseks. 😬

Praktiline kaasavõetav toit

Suurtehnoloogiaettevõtete tehisintellekt võib olla tõeliselt väärtuslik, kui see toimib reaalajas töövoogude, näiteks tugiteenuste, müügi, turvalisuse ja administreerimise osana. Kuid ettevõte peaks kõigepealt testima ebaglamuurseid põhitõdesid: õigused, logid, versioonikontroll, loobumisvõimalused, hinnakujundus ja kaasaskantavus.

See on kogu suurtehnoloogia tehisintellekti debati praktiline versioon: kasutage võimu, aga ärge kõndige unes kinni.

KKK

Milline on suurtehnoloogia roll tehisintellektis praktikas?

Suurtehnoloogiaettevõtete roll tehisintellektis ei ole niivõrd „nad loovad mudeleid“ kui pigem „nad käitavad masinaid, mis panevad tehisintellekti mastaapselt tööle“. Nad pakuvad pilveinfrastruktuuri, edastavad tehisintellekti seadmete ja rakenduste kaudu ning kehtestavad platvormireeglid, mis kujundavad seda, mida ehitatakse. Samuti rahastavad nad uuringuid, partnerlussuhteid ja omandamisi, mis mõjutavad seda, millised lähenemisviisid ellu jäävad. Paljudel turgudel määratlevad nad sisuliselt tehisintellekti vaikekogemuse.

Miks on arvutusvõimalustele juurdepääs nii oluline neile, kes saavad tehisintellekti suures mahus luua?

Tänapäeva tehisintellekt sõltub suurtest GPU-klastritest, kiirest võrgustumisest, salvestusruumist ja usaldusväärsetest MLOps-kanalitest – mitte ainult nutikatest algoritmidest. Kui te ei saa prognoositavat mahtu, muutuvad koolitus, hindamine ja juurutamine hapraks ja kalliks. Suured tehnoloogiaettevõtted kontrollivad sageli nn selgrookihti (pilv, kiipide partnerlused, ajastamine, turvalisus), mis saab määrata, mis on väiksematele meeskondadele teostatav. See võim võib olla kasulik, kuid see jääb ikkagi võimuks.

Kuidas kujundab suurtehnoloogiaettevõtete levitamine seda, mida tehisintellekt igapäevakasutajate jaoks tähendab?

Levitamine on supervõime, sest see muudab tehisintellekti vaikefunktsiooniks, mitte eraldi tooteks, mille peate valima. Kui tehisintellekt ilmub otsinguribadesse, telefonidesse, e-kirjadesse, dokumentidesse, koosolekutele ja rakenduste poodidesse, saab sellest enamiku inimeste jaoks „see, mis tehisintellekt on“. See kitsendab ka avalikkuse ootusi: kui tehisintellekt on teie rakendustes enamasti kirjutusvahend, eeldavad kasutajad, et tehisintellekt võrdub kirjutamisega. Platvormid otsustavad vaikselt tooni.

Kuidas platvormireeglid ja rakendustepoed tehisintellekti väravavahina toimivad?

Rakenduste ülevaatamise eeskirjad, turutingimused, sisureeglid ja API piirangud võivad määrata, millised tehisintellekti funktsioonid on lubatud ja kuidas need peavad toimima. Isegi kui reeglid on sõnastatud turvalisuse või privaatsuse kaitseks, kujundavad need ka konkurentsi, suurendades vastavus- ja rakenduskulusid. Arendajate jaoks tähendab see, et poliitika värskendused võivad olla sama olulised kui mudeli värskendused. Praktikas on sageli see, „mis saadetakse“, „mis läbib värava“

Kuidas sobivad pilvandmetöötluse tehisintellekti platvormid nagu SageMaker, Azure ML ja Vertex AI suurtehnoloogia rolli tehisintellektis?

Pilvepõhised tehisintellekti platvormid koondavad koolituse, juurutamise, jälgimise, haldamise ja turvalisuse ühte kohta, mis vähendab idufirmade ja ettevõtete vahelist hõõrdumist. Tööriistad nagu Amazon SageMaker, Azure Machine Learning ja Vertex AI lihtsustavad kulude skaleerimist ja haldamist ühe tarnija suhte kaudu. Kompromiss seisneb selles, et mugavus võib suurendada seotust, kuna töövood, õigused ja jälgimine on sellesse ökosüsteemi sügavalt integreeritud.

Mida peaks äriklient enne suurtehnoloogia tehisintellekti tööriistade kasutuselevõttu endalt küsima?

Alustage andmetest: kuhu need lähevad, kuidas neid isoleeritakse ning millised säilitus- ja auditeerimiskontrollid on olemas. Küsige administraatori kontrollide, logimise, juurdepääsupiiride ja selle kohta, kuidas mudeleid teie valdkonnas riskide osas hinnatakse. Samuti tehke hinnakujundusele survetesti, sest kasutuspõhised kulud võivad kasutuselevõtu kasvades tõusta. Reguleeritud keskkondades viige ootused vastavusse raamistike ja vastavusnõuetega, mida teie organisatsioon juba kasutab.

Kuidas saavad arendajad vältida müüjaga seotust suurtehnoloogia tehisintellekti API-dele ehitades?

Levinud lähenemisviis on kaasaskantavuse arvestamine disainimisel: mässi mudelikõned abstraktsioonikihi taha ning hoia käsud, poliitikad ja hindamisloogika versioonituna ja testitavana. Väldi lootmist ühele „spetsiaalsele” müüja funktsioonile, mis võib muutuda või kaduda. Jälgi tariifipiiranguid, hinnavärskendusi ja poliitikamuudatusi osana pidevast hooldusest. Kaasaskantavus ei ole tasuta, kuid tavaliselt maksab see vähem kui sunnitud migratsioon.

Kuidas privaatsus ja isikupärastamine loovad tehisintellekti funktsioonidega usalduslepingu?

Isikupärastamine parandab sageli tehisintellekti kasulikkust, kuid tavaliselt suurendab see andmetega kokkupuudet ja tajutavat ebamugavust. Suurtehnoloogiaettevõtted on tihedalt seotud käitumuslike, ettevõtte, platvormi ja seadme andmetega, seega uurivad kasutajad ja reguleerivad asutused, kuidas need andmed mõjutavad koolitust, peenhäälestust ja tooteotsuseid. Praktiline võrdlusalus on see, kas ettevõte suudab oma tehisintellekti andmetega seotud tavasid selgelt selgitada, ilma et see peituks juriidilise keele taha. Hea kontroll ja tegelikud loobumisvõimalused on olulised.

Millised standardid ja eeskirjad on suurtehnoloogiaettevõtete tehisintellekti juhtimise ja ohutuse seisukohast kõige olulisemad?

Paljudes torujuhtmetes ühendab juhtimine sisemised ohutuspoliitikad väliste raamistike ja seadustega. Organisatsioonid viitavad sageli riskijuhtimise juhistele, nagu NISTi tehisintellekti riskijuhtimise raamistik (AI RMF), haldusstandarditele nagu ISO/IEC 42001 ja piirkondlikele eeskirjadele, nagu isikuandmete kaitse üldmäärus (GDPR) ja ELi tehisintellekti seadus teatud kasutusjuhtude puhul. Need mõjutavad logimist, auditeid, andmepiire ning seda, mis blokeeritakse või lubatakse. Probleem seisneb selles, et vastavusnõuetele vastavus võib muutuda kulukaks, mis võib soodustada suuremaid tegijaid.

Kas suurtehnoloogiaettevõtete mõju konkurentsile ja ökosüsteemidele on alati halb asi?

Mitte automaatselt. Platvormid saavad vähendada barjääre, standardiseerida tööriistu ning rahastada turvalisust ja infrastruktuuri, mida väiksemad meeskonnad endale lubada ei saa. Kuid sama dünaamika võib vähendada mitmekesisust, kui kõik jäävad vaid mõne domineeriva API, pilve ja turuplatsi ümber. Jälgige mustreid nagu arvutus- ja levitamiskeskkonna konsolideerumine, samuti hinnakujundus- ja poliitikamuutused, millest on raske pääseda. Kõige tervemad ökosüsteemid jätavad tavaliselt ruumi koostalitlusvõimele ja uutele tulijatele.

Viited

1. Rahvusvaheline Energiaagentuur - Energia ja tehisintellekt - iea.org

2. Rahvusvaheline Energiaagentuur - Tehisintellekti energiavajadus - iea.org

3. NVIDIA – tehisintellekti järeldusplatvormide ülevaade – nvidia.com

4. Amazon Web Services - Amazon SageMaker tehisintellekti dokumentatsioon (Mis on SageMaker?) - aws.amazon.com

5. Microsoft – Azure'i masinõppe dokumentatsioon – learn.microsoft.com

6. Google Cloud – Vertexi tehisintellekti dokumentatsioon – cloud.google.com

7. Google Cloud – MLOps Vertex AI – cloud.google.com

8. Microsoft – masinõppe operatsioonide (MLOps) v2 arhitektuuri juhend – learn.microsoft.com

9. Apple'i arendaja – põhiline masinõpe – developer.apple.com

10. Google Developers – masinõppe komplekt – developers.google.com

11. Apple'i arendaja – rakenduste arvustuse juhised – developer.apple.com

12. Google Play Console'i ​​abi – andmekaitse – support.google.com

13. arXiv - Neuraalkeele mudelite skaleerimisseadused - arxiv.org

14. arXiv - Arvutusoptimaalsete suurte keelemudelite treenimine (Chinchilla) - arxiv.org

15. Riiklik Standardite ja Tehnoloogia Instituut - tehisintellekti riskijuhtimise raamistik (AI RMF 1.0) - nist.gov

16. Riiklik Standardite ja Tehnoloogia Instituut - NISTi generatiivse tehisintellekti profiil (tehisintellekti RMF-i kaaslane) - nist.gov

17. Rahvusvaheline Standardiorganisatsioon - ISO/IEC 42001:2023 - iso.org

18. EUR-Lex - Määrus (EL) 2016/679 (isikuandmete kaitse üldmäärus) - eur-lex.europa.eu

19. EUR-Lex – määrus (EL) 2024/1689 (ELi tehisintellekti seadus) – eur-lex.europa.eu

20. OECD – OECD tehisintellekti põhimõtted – oecd.ai

Leia uusim tehisintellekt ametlikust tehisintellekti abilise poest

Meist