Kui ehitate, ostate või isegi lihtsalt hindate tehisintellekti süsteeme, põrkate kokku ühe petlikult lihtsa küsimusega: mis on tehisintellekti andmestik ja miks see nii oluline on? Lühidalt: see on teie mudeli kütus, kokaraamat ja mõnikord ka kompass.
Artiklid, mida võiksite pärast seda lugeda:
🔗 Kuidas tehisintellekt ennustab trende
Uurib, kuidas tehisintellekt analüüsib mustreid tulevaste sündmuste ja käitumise prognoosimiseks.
🔗 Kuidas tehisintellekti jõudlust mõõta
Täpsuse, efektiivsuse ja mudeli usaldusväärsuse hindamise mõõdikud ja meetodid.
🔗 Kuidas tehisintellektiga rääkida
Juhised paremate interaktsioonide loomiseks tehisintellekti loodud vastuste täiustamiseks.
🔗 Mis on tehisintellekti prompt?
Ülevaade sellest, kuidas küsimused kujundavad tehisintellekti väljundeid ja üldist suhtluskvaliteeti.
Mis on tehisintellekti andmestik? Kiire definitsioon 🧩
Mis on tehisintellekti andmestik? See on näidete kogum, millest teie mudel õpib või mille põhjal seda hinnatakse. Igal näitel on:
-
Sisendid – mudeli poolt nähtavad funktsioonid, näiteks tekstilõigud, pildid, heli, tabeli read, andurite näidud, graafikud.
-
Sihtmärgid – sildid või tulemused, mida mudel peaks ennustama, näiteks kategooriad, numbrid, tekstivahemikud, toimingud või mõnikord mitte midagi.
-
Metaandmed – kontekst, näiteks allikas, kogumismeetod, ajatemplid, litsentsid, nõusoleku teave ja märkused kvaliteedi kohta.
Mõtle sellele kui hoolikalt pakitud lõunakarbile oma mudeli jaoks: koostisosad, sildid, toitumisalane teave ja jah, kleepuv märkmeke kirjaga „ära seda osa söö”. 🍱
Juhendatud ülesannete puhul näete sisendeid, mis on seotud selgesõnaliste siltidega. Juhendamata ülesannete puhul näete sisendeid ilma siltideta. Tugevdusõppe puhul näevad andmed sageli välja nagu episoodid või trajektoorid koos olekute, tegevuste ja preemiatega. Multimodaalse töö puhul võivad näited ühendada teksti + pildi + heli ühes kirjes. Kõlab uhkelt; on enamasti torulukksepp.
Kasulikud alustused ja tavad: andmestike andmelehed aitavad meeskondadel selgitada, mis on andmestike sees ja kuidas seda tuleks kasutada [1], ning mudelikaardid täiendavad mudelipoolset andmedokumentatsiooni [2].
Mis teeb tehisintellekti andmestiku heaks ✅
Olgem ausad, paljud mudelid õnnestuvad, kuna andmestik polnud kohutav. „Hea“ andmestik on:
-
Esinduslik reaalsetele kasutusjuhtudele, mitte ainult laboritingimustele.
-
Täpselt märgistatud , selgete juhiste ja perioodilise hindamisega. Kokkuleppe mõõdikud (nt kappa-stiilis mõõdikud) aitavad järjepidevust kontrollida.
-
terviklik ja tasakaalustatud , et vältida pikkade sabade puhul vaikset ebaõnnestumist. Tasakaalutus on normaalne; hooletus mitte.
-
Päritolu selge , nõusolek, litsents ja load dokumenteeritud. Igav paberimajandus hoiab ära põnevad kohtuasjad.
-
Hästi dokumenteeritud andmekaartide või andmelehtede abil, kus on kirjas kavandatud kasutus, piirid ja teadaolevad rikkeviisid [1]
-
Hallatud versioonimise, muudatuste logide ja kinnituste abil. Kui te ei saa andmestikku taasluua, ei saa te ka mudelit taasluua. NISTi tehisintellekti riskijuhtimise raamistiku käsitlevad andmete kvaliteeti ja dokumentatsiooni esmatähtsate muredena [3].
Tehisintellekti andmestike tüübid vastavalt teie tegevusele 🧰
Ülesande järgi
-
Klassifikatsioon – nt rämpspost vs mitterämpspost, piltide kategooriad.
-
Regressioon – ennusta pidevat väärtust, näiteks hinda või temperatuuri.
-
Järjestuse märgistamine - nimetatud üksused, kõneosad.
-
Genereerimine - kokkuvõte, tõlge, piltide subtiitrite lisamine.
-
Soovitus – kasutaja, üksus, interaktsioonid, kontekst.
-
Anomaaliate tuvastamine – haruldased sündmused aegridades või logides.
-
Tugevdusõpe – olek, tegevus, tasu, järgmise oleku järjestused.
-
Otsimine – dokumendid, päringud, asjakohasuse hinnangud.
Modaalsuse järgi
-
Tabeliline – veerud nagu vanus, sissetulek, töötajate lahkumine. Alahinnatud, jõhkralt efektiivne.
-
Tekst – dokumendid, vestlused, kood, foorumipostitused, tootekirjeldused.
-
Pildid – fotod, meditsiinilised skaneeringud, satelliitpildid; maskidega või ilma, kastid, võtmepunktid.
-
Heli – lainekujud, transkriptid, kõneleja sildid.
-
Video – kaadrid, ajalised märkused, toimingute sildid.
-
Graafikud - sõlmed, servad, atribuudid.
-
Ajaseeriad - andurid, rahandus, telemeetria.
Järelevalve all
-
Märgistatud (kuldne, hõbedane, isemärgistatud), nõrgalt märgistatud , märgistamata , sünteetiline . Poest ostetud koogisegu võib olla korralik – kui karbil olevat infot lugeda.
Karbi sisu: struktuur, jaotused ja metaandmed 📦
Tugev andmestik sisaldab tavaliselt järgmist:
-
Skeem – tüübitud väljad, ühikud, lubatud väärtused, tühiväärtuste käsitlemine.
-
Jagamised – treenimine, valideerimine, testimine. Hoidke testiandmeid suletuna – käsitlege neid nagu viimast šokolaaditükki.
-
Valimi moodustamise plaan – kuidas te populatsioonist näiteid võtsite; vältige mugavusvalimit ühest piirkonnast või seadmest.
-
Täiendused – pööramised, kärpimised, müra, parafraasid, maskid. Head, kui need on ausad; kahjulikud, kui need leiutavad mustreid, mida looduses kunagi ei juhtu.
-
Versioonimine - andmestik v0.1, v0.2… koos deltasid kirjeldavate muudatuste logidega.
-
Litsentsid ja nõusolek – kasutusõigused, levitamine ja kustutamine. Riiklikud andmekaitse regulaatorid (nt Ühendkuningriigi andmekaitsekomisjon) pakuvad praktilisi ja seadusliku töötlemise kontrollnimekirju [4].
Andmestiku elutsükkel samm-sammult 🔁
-
Määratle otsus – mida mudel otsustab ja mis juhtub, kui see on vale.
-
Ulatuse tunnused ja sildid – mõõdetavad, jälgitavad, eetilised kogumiseks.
-
Allikasandmed – instrumendid, logid, uuringud, avalikud korpused, partnerid.
-
Nõusolek ja juriidilised aspektid – privaatsusteated, loobumisklauslid, andmete minimeerimine. Lisateavet „miks“ ja „kuidas“ leiate regulaatori juhistest [4].
-
Kogumine ja salvestamine – turvaline salvestamine, rollipõhine juurdepääs, isikuandmete käitlemine.
-
Silt – sisemised annotaatorid, rahvahulga hankimine, eksperdid; kvaliteedi haldamine kuldülesannete, auditite ja lepingumõõdikute abil.
-
Puhastamine ja normaliseerimine – dubleerivate osade eemaldamine, puuduvate osade käsitlemine, ühikute standardiseerimine, kodeeringu parandamine. Igav ja kangelaslik töö.
-
Jaota ja valideeri – väldi lekkeid; stratifitseeri vastavalt vajadusele; eelista ajaliste andmete puhul ajateadlikke jaotusi; ja kasuta usaldusväärsete hinnangute saamiseks läbimõeldult ristvalideerimist [5].
-
Dokument – andmeleht või andmekaart; kavandatud kasutus, hoiatused, piirangud [1].
-
Jälgimine ja uuendamine – triivi tuvastamine, uuendamise rütm, plaanide lõpetamine. NISTi tehisintellekti nõuetekohane juhtimisfunktsioon (RMF) raamib seda pidevat juhtimistsüklit [3].
Kiire, reaalses maailmas rakendatav nipp: meeskonnad tihtipeale „võidavad demo“, aga komistavad tootmises, sest nende andmestik triivib vaikselt – uued tootesarjad, ümbernimetatud väli või muutunud poliitika. Lihtne muudatuste logi ja perioodiline ümbermärkimine aitavad enamiku sellest vaevast vältida.
Andmete kvaliteet ja hindamine – mitte nii igav, kui see kõlab 🧪
Kvaliteet on mitmemõõtmeline:
-
Täpsus – kas sildid on õiged? Kasutage kokkuleppe mõõdikuid ja perioodilist hindamist.
-
Täielikkus – kata valdkonnad ja klassid, mida sa tõeliselt vajad.
-
Järjepidevus – vältige sarnaste sisendite puhul vastuolulisi silte.
-
Ajakohasus – aegunud andmed kivistavad eeldused.
-
Õiglus ja eelarvamused – hõlmatus demograafiliste näitajate, keelte, seadmete ja keskkondade lõikes; alustage kirjeldavate audititega ja seejärel stresstestidega. Dokumentatsioonile keskenduvad tavad (andmelehed, mudelkaardid) muudavad need kontrollid nähtavaks [1] ja juhtimisraamistikud rõhutavad neid riskikontrollidena [3].
Mudeli hindamiseks kasutage sobivaid jaotusi ja jälgige nii keskmisi mõõdikuid kui ka halvima rühma mõõdikuid. Läbipaistev keskmine võib varjata kraatri. Ristvalideerimise põhitõdesid on hästi käsitletud standardsetes masinõppe tööriistade dokumentides [5].
Eetika, privaatsus ja litsentsimine – piirded 🛡️
Eetilised andmed ei ole vibe, vaid protsess:
-
Nõusolek ja eesmärgi piirang – olge selgesõnalised kasutusviiside ja õiguslike aluste osas [4].
-
Isikuandmete töötlemine – minimeerige, pseudonümiseerige või anonümiseerige vastavalt vajadusele; kaaluge privaatsust parandavate tehnoloogiate kasutamist, kui riskid on suured.
-
Autorile viitamine ja litsentsid – austa samadel alustel jagamise ja ärilise kasutamise piiranguid.
-
Eelarvamused ja kahju – audit valede korrelatsioonide suhtes ("päevavalgus = ohutu" on öösel väga segadusttekitav).
-
Hüvitamine – tea, kuidas andmeid taotluse korral eemaldada ja kuidas nende peal treenitud mudeleid tagasi võtta (dokumenteeri see oma andmelehel) [1].
Kui suur on piisavalt suur? Suuruse ja signaali-müra suhe 📏
Rusikareegel: rohkem näiteid on tavaliselt abiks, kui need on asjakohased ja mitte peaaegu dubleerivad. Kuid mõnikord on parem vähemate, puhtamate ja paremini märgistatud näidetega kui mägede kaupa segaseid näiteid.
Jälgige:
-
Õppimiskõverad – joonistage graafikule toimivus ja valimi suurus, et näha, kas olete andme- või mudelipõhine.
-
Pikaajaline kajastus – haruldased, kuid kriitilised klassid vajavad sageli sihipärast kogumist, mitte ainult suuremat hulka.
-
Märgista müra – mõõda ja seejärel vähenda; väike kogus on talutav, hiidlaine mitte.
-
Jaotuse nihe – ühest piirkonnast või kanalist pärinevad treeningandmed ei pruugi üldistada teisele; valideerige sihtmärgilaadsete testandmete abil [5].
Kahtluse korral tee väiksemaid katsetusi ja laienda neid. See on nagu maitsestamine – lisa, maitse, kohanda, korda.
Kust andmekogumeid leida ja hallata 🗂️
Populaarsed ressursid ja tööriistad (pole vaja URL-e praegu pähe õppida):
-
Kallistavate Nägude Andmestikud - programmiline laadimine, töötlemine, jagamine.
-
Google'i andmestiku otsing – metaotsing veebist.
-
UCI ML Repository – kureeritud klassikud algtasemete ja õpetamise jaoks.
-
OpenML - ülesanded + andmestikud + käivitused päritolu järgi.
-
AWS Open Data / Google Cloud Public Datasets – majutatud suuremahulised korpused.
Pro nipp: ära lihtsalt laadi alla. Loe litsentsi ja andmelehte ning seejärel dokumenteeri oma koopia versiooninumbrite ja päritoluga [1].
Sildistamine ja märkuste lisamine – koht, kus tõe üle läbirääkimisi peetakse ✍️
Annotatsioon on koht, kus teie teoreetiline sildijuhend maadleb reaalsusega:
-
Ülesande ülesehitus – kirjuta selged juhised näidete ja vastunäidetega.
-
Annotaatori koolitus – vastused tuleb kuldsetena sisestada, kalibreerimisringid läbi viia.
-
Kvaliteedikontroll – kasutage kokkuleppemõõdikuid, konsensusmehhanisme ja perioodilisi auditeid.
-
Tööriistad – valige tööriistad, mis jõustavad skeemi valideerimist ja ülevaatusjärjekordi; isegi arvutustabelid saavad reeglite ja kontrollidega töötada.
-
Tagasisideahelad – jäädvustage annotaatori märkmeid ja modelleerige vigu juhendi täiustamiseks.
Kui see tundub nagu sõnaraamatu redigeerimine kolme sõbraga, kes on komakohtade osas eriarvamusel... siis on see normaalne. 🙃
Andmete dokumenteerimine – varjatud teadmiste selgesõnaliseks muutmine 📒
Kerge andmeleht või andmekaart peaks hõlmama järgmist:
-
Kes seda kogus, kuidas ja miks.
-
Ettenähtud ja mitte-määruse kohased kasutusalad.
-
Teadaolevad lüngad, eelarvamused ja rikkeviisid.
-
Märgistamise protokoll, kvaliteedikontrolli etapid ja kokkuleppe statistika.
-
Litsents, nõusolek, probleemide korral ühenduse võtmine, eemaldamisprotsess.
Mallid ja näited: Andmekogumite andmelehed ja mudelkaartide andmelehed on laialdaselt kasutatavad lähtekohad [1].
Kirjuta see ehitamise ajal, mitte pärast. Mälu on ebaühtlane salvestuskeskkond.
Võrdlustabel – kohad tehisintellekti andmestike leidmiseks või majutamiseks 📊
Jah, see on pisut arvamuslik. Ja sõnastus on meelega veidi ebaühtlane. See on okei.
| Tööriist / Repo | Sihtrühm | Hind | Miks see praktikas toimib |
|---|---|---|---|
| Kallistavate nägude andmestikud | Teadlased, insenerid | Vabatasemeline | Kiire laadimine, voogedastus, kogukonna skriptid; suurepärased dokumendid; versioonitud andmekogumid |
| Google'i andmestiku otsing | Kõik | Tasuta | Lai pindala; suurepärane avastamiseks; mõnikord on metaandmed siiski ebajärjekindlad |
| UCI ML-i hoidla | Õpilased, õpetajad | Tasuta | Kureeritud klassikud; väike, aga korralik; sobib hästi nii algtaseme kui ka õpetamise jaoks |
| OpenML | Reproduktiivmeditsiini uurijad | Tasuta | Ülesanded + andmekogumid + käivitamised koos; head päritolurajad |
| AWS avatud andmete register | Andmeinsenerid | Enamasti tasuta | Petabaidisuuruses majutus; pilvepõhine juurdepääs; jälgimise väljumiskulud |
| Kaggle'i andmestikud | Praktikud | Tasuta | Lihtne jagamine, skriptid, võistlused; kogukonna signaalid aitavad müra filtreerida |
| Google Cloudi avalikud andmekogumid | Analüütikud, meeskonnad | Tasuta + pilveteenus | Arvutuskeskuse lähedal majutatud; BigQuery integratsioon; arveldusega ettevaatlik |
| Akadeemilised portaalid, laborid | Nišieksperdid | Varieerub | Väga spetsialiseeritud; mõnikord aladokumenteeritud – siiski otsimist väärt |
(Kui lahter tundub jutukas, on see taotluslik.)
Oma esimese ehitamine - praktiline algajate komplekt 🛠️
Sa tahad liikuda küsimuselt „mis on tehisintellekti andmestik“ küsimusele „ma tegin ühe ja see töötab“. Proovi seda minimaalset teed:
-
Kirjuta otsus ja mõõdik – nt. sissetuleva toe valede marsruutide vähendamine õige meeskonna ennustamise abil. Mõõdik: makro-F1.
-
Too 5 positiivset ja 5 negatiivset näidet – too näidiseid päris piletitest, ära neid välja fabritseeri.
-
Koostage sildijuhend – üks lehekülg; selged kaasamise/väljajätmise reeglid.
-
Koguge väike, reaalne valim – paar sada piletit kategooriate lõikes; eemaldage isikuandmed, mida te ei vaja.
-
Leketekontrollidega jagamine – hoidke kõik samalt kliendilt pärit sõnumid ühes jaos; dispersiooni hindamiseks kasutage ristvalideerimist [5].
-
Annotatsioon QA abil – kaks annotaatorit alamhulgal; lahkarvamuste lahendamine; juhendi uuendamine.
-
Treeni lihtsat baasjoont – esmalt logistika (nt lineaarsed mudelid või kompaktsed trafod). Asi on andmete testimises, mitte medalite võitmises.
-
Vaadake vead üle – kus see ebaõnnestub ja miks; uuendage andmestikku, mitte ainult mudelit.
-
Dokument – pisike andmeleht: allikas, siltide juhendi link, jaotused, teadaolevad piirid, litsents [1].
-
Planeeri värskendusi – lisanduvad uued kategooriad, uus släng, uued domeenid; planeeri väikeseid, kuid sagedasi värskendusi [3].
Sellest tsüklist õpid rohkem kui tuhandest uuest võttest. Palun tehke ka varukoopiaid.
Meeskondades hiilivad levinud lõksud 🪤
-
Andmeleke – vastus libiseb funktsioonidesse (nt lahendusjärgsete väljade kasutamine tulemuste ennustamiseks). Tundub petmisena, sest see ongi petmine.
-
Pindmine mitmekesisus – üks geograafiline piirkond või seade maskeerub globaalseks. Testid paljastavad süžeekeeru.
-
Sildi triiv – kriteeriumid muutuvad aja jooksul, kuid siltide juhend mitte. Dokumenteerige ja versioonige oma ontoloogia.
-
Alamääratletud eesmärgid – kui te ei suuda halba ennustust defineerida, siis ei suuda seda ka teie andmed.
-
Segased litsentsid – praegu kraapimine ja hiljem vabanduste palumine pole strateegia.
-
Ületäiustamine – sünteetilised andmed, mis õpetavad ebareaalseid artefakte, näiteks koka koolitamist plastpuuviljade peal.
Kiired KKK fraasi enda kohta ❓
-
Kas küsimus „Mis on tehisintellekti andmestik?” on lihtsalt definitsiooni küsimus? Enamasti, aga see on ka märk sellest, et hoolite igavatest osadest, mis muudavad mudelid usaldusväärseks.
-
Kas ma vajan alati silte? Ei. Järelevalveta, isejärelevalvega ja RL-seadistused jätavad sageli selgesõnalised sildid vahele, kuid kureerimine on siiski oluline.
-
Kas ma saan avalikke andmeid milleks iganes kasutada? Ei. Austage litsentse, platvormi tingimusi ja privaatsuskohustusi [4].
-
Suurem või parem? Ideaalis mõlemad. Kui pead valima, siis vali esmalt parem.
Lõppmärkused - millest saab ekraanipilti teha 📌
Kui keegi küsib, mis on tehisintellekti andmestik , siis vastake: see on kureeritud ja dokumenteeritud näidete kogum, mis õpetab ja testib mudelit ning on pakendatud haldusraamistikku, et inimesed saaksid tulemusi usaldada. Parimad andmestikud on representatiivsed, hästi märgistatud, juriidiliselt puhtad ja pidevalt hooldatavad. Ülejäänu on detailid – olulised detailid – struktuuri, jaotuste ja kõigi nende väikeste piirete kohta, mis takistavad mudelitel liiklusesse ekslemast. Mõnikord tundub protsess nagu aiatöö arvutustabelitega; mõnikord nagu pikslite karjatamine. Igal juhul investeerige andmetesse ja teie mudelid käituvad vähem imelikult. 🌱🤖
Viited
[1] Andmekogumite andmelehed - Gebru jt, arXiv. Link
[2] Mudelikaardid mudeli aruandluseks - Mitchell jt, arXiv. Link
[3] NIST tehisintellekti riskijuhtimise raamistik (AI RMF 1.0) . Link
[4] Ühendkuningriigi isikuandmete kaitse üldmääruse juhised ja ressursid - teabevoliniku büroo (ICO). Link
[5] Ristvalideerimine: hinnangufunktsiooni toimivuse hindamine - scikit-learni kasutusjuhend. Link