Mis on avatud lähtekoodiga tehisintellekt

Mis on avatud lähtekoodiga tehisintellekt?

Avatud lähtekoodiga tehisintellektist räägitakse nagu võluvõtmest, mis avab kõik. See pole nii. Küll aga on praktiline ja lubasid mittevajav viis luua tehisintellekti süsteeme, mida saab mõista, täiustada ja tarnida ilma müüjalt lülitit sisse lülitamata. Kui oled mõelnud, mis loetakse „avatuks“, mis on lihtsalt turundus ja kuidas seda tööl kasutada, siis oled õiges kohas. Haara kohv – see on kasulik ja võib-olla ka pisut arvamuslik ☕🙂.

Artiklid, mida võiksite pärast seda lugeda:

🔗 Kuidas tehisintellekti oma ettevõttesse integreerida
Praktilised sammud tehisintellekti tööriistade integreerimiseks nutikama ärikasvu saavutamiseks.

🔗 Kuidas tehisintellekti abil produktiivsem olla
Avastage tõhusad tehisintellektiga seotud töövood, mis säästavad aega ja suurendavad tõhusust.

🔗 Mis on tehisintellekti oskused
Õpi tulevikuks valmis spetsialistidele olulisi tehisintellekti võtmepädevusi.

🔗 Mis on Google Vertexi tehisintellekt?
Saage aru Google'i Vertexi tehisintellektist ja sellest, kuidas see masinõpet lihtsustab.

Mis on avatud lähtekoodiga tehisintellekt? 🤖🔓

Lihtsamalt öeldes tähendab avatud lähtekoodiga tehisintellekt seda, et tehisintellekti süsteemi koostisosad – kood, mudeli kaalud, andmekanalid, treeningskriptid ja dokumentatsioon – on avaldatud litsentside alusel, mis lubavad kõigil neid mõistlikel tingimustel kasutada, uurida, muuta ja jagada. See põhiline vabaduse keel pärineb avatud lähtekoodi definitsioonist ja selle pikaajalistest kasutajavabaduse põhimõtetest [1]. Tehisintellekti eripära on see, et lisaks koodile on ka rohkem koostisosi.

Mõned projektid avaldavad kõik: koodi, treeningandmeallikad, retseptid ja treenitud mudeli. Teised avaldavad ainult kaalud kohandatud litsentsiga. Ökosüsteem kasutab mõnikord lohakat lühenditehnikat, seega korrastame seda järgmises osas.

Avatud lähtekoodiga tehisintellekt vs avatud kaalud vs avatud juurdepääs 😅

See on koht, kus inimesed räägivad teineteisest mööda.

  • Avatud lähtekoodiga tehisintellekt – projekt järgib avatud lähtekoodi põhimõtteid kogu oma platvormi ulatuses. Kood on OSI poolt heakskiidetud litsentsi all ja levitamistingimused lubavad laialdast kasutamist, muutmist ja jagamist. Siinne vaim peegeldab OSI kirjeldust: kasutaja vabadus on esikohal [1][2].

  • Avatud kaalud – treenitud mudeli kaalud on allalaaditavad (sageli tasuta), kuid kohandatud tingimuste alusel. Näete kasutustingimusi, levitamispiiranguid või aruandlusreegleid. Meta Llama perekond illustreerib seda: koodi ökosüsteem on suhteliselt avatud, kuid mudeli kaalud tarnitakse kindla litsentsi alusel, millel on kasutuspõhised tingimused [4].

  • Avatud juurdepääs – saad API-le ligi, võib-olla tasuta, aga sa ei saa selle kaalusid. Kasulik katsetamiseks, aga mitte avatud lähtekoodiga.

See pole ainult semantika. Teie õigused ja riskid muutuvad kõigis nendes kategooriates. OSI praegune töö tehisintellekti ja avatuse alal selgitab neid nüansse lihtsas keeles [2].

Mis teeb avatud lähtekoodiga tehisintellekti tegelikult heaks ✅

Olgem kiired ja ausad.

  • Auditeeritavus – saate lugeda koodi, kontrollida andmeretsepte ja jälgida treeninguetappe. See aitab tagada vastavuse, ohutusülevaated ja rahuldada vanamoodsat uudishimu. NISTi tehisintellekti riskijuhtimise raamistik soodustab dokumenteerimise ja läbipaistvuse tavasid, mida avatud projektid saavad kergemini rahuldada [3].

  • Kohanduvus — Sa ei ole müüja tegevuskavasse surutud. Kahvelda. Paranda. Saada. Lego, mitte liimitud plastik.

  • Kulude kontroll – isehostimine, kui see on odavam. Pilvepõhiste lahenduste kasutamine, kui see pole nii. Erinevate riistvarade kombineerimine.

  • Kogukonna kiirus – vead parandatakse, funktsioonid maanduvad ja õpid eakaaslastelt. Räpane? Vahel. Produktiivne? Tihti.

  • Halduslik selgus – päris avatud litsentsid on etteaimatavad. Võrrelge seda API teenusetingimustega, mis vaikselt teisipäeval muutuvad.

Kas see on ideaalne? Ei. Aga kompromissid on arusaadavad – rohkem kui paljudest musta kasti teenustest.

Avatud lähtekoodiga tehisintellekti pakett: kood, kaalud, andmed ja liim 🧩

Mõtle tehisintellekti projektile nagu omapärasele lasanjele. Kihid kõikjal.

  1. Raamistikud ja käituskeskkonnad – tööriistad mudelite määratlemiseks, treenimiseks ja serveerimiseks (nt PyTorch, TensorFlow). Terved kogukonnad ja dokumendid on olulisemad kui kaubamärgid.

  2. Mudeliarhitektuurid — plaan: transformaatorid, difusioonimudelid, otsingu abil laiendatud seadistused.

  3. Kaalud – treeningu käigus õpitud parameetrid. „Avatud” sõltub siin levitamisest ja ärilise kasutamise õigustest, mitte ainult allalaaditavusest.

  4. Andmed ja retseptid – kureerimisskriptid, filtrid, täiendused, treeningkavad. Läbipaistvus on siin reprodutseeritavuse seisukohalt kulda väärt.

  5. Tööriistad ja orkestreerimine — Järeldamisserverid, vektorandmebaasid, hindamisraamistikud, jälgitavus, CI/CD.

  6. Litsentsimine – vaikne selgroog, mis otsustab, mida sa tegelikult teha saad. Lisateavet leiate altpoolt.

Avatud lähtekoodiga tehisintellekti litsentsimise alused 📜

Sa ei pea olema jurist. Sa pead mustreid märkama.

  • Lubavad koodilitsentsid — MIT, BSD, Apache-2.0. Apache sisaldab selgesõnalist patendiõigust, mida paljud meeskonnad hindavad [1].

  • Copyleft – GPL-pere nõuab, et tuletatud teosed jääksid avatuks sama litsentsi alusel. Võimas, aga arvesta sellega oma arhitektuuris.

  • Mudelipõhised litsentsid – Kaalude ja andmekogumite jaoks näete kohandatud litsentse, näiteks vastutustundliku tehisintellekti litsentside perekonda (OpenRAIL). Need kodeerivad kasutuspõhiseid õigusi ja piiranguid; mõned lubavad laialdaselt ärilist kasutamist, teised lisavad väärkasutuse ümberpiirdeid [5].

  • Creative Commonsi litsentsid andmete jaoks – CC-BY või CC0 on andmekogumite ja dokumentide puhul levinud. Autorile viitamine on väikeses mahus hallatav; looge muster varakult.

Pro nipp: Pea üheleheküljelist nimekirja igast sõltuvusest, selle litsentsist ja sellest, kas äriline levitamine on lubatud. Igav? Jah. Vajalik? Samuti jah.

Võrdlustabel: populaarsed avatud lähtekoodiga tehisintellekti projektid ja kus need säravad 📊

kergelt segane tahtlikult – just nii näevad välja päris rahatähed

Tööriist / projekt Kellele see mõeldud on Hinnaline Miks see hästi toimib
PyTorch Teadlased, insenerid Tasuta Dünaamilised graafikud, tohutu kogukond, tugevad dokumendid. Lahingus testitud tootmisfaasis.
TensorFlow Ettevõtte meeskonnad, masinõppe operatsioonid Tasuta Graafirežiim, TF-esitamine, ökosüsteemi sügavus. Mõne jaoks järsem õppimine, aga siiski kindel.
Kallistavad Nägu Transformerid Tähtaegadega ehitajad Tasuta Eelnevalt treenitud mudelid, torujuhtmed, andmekogumid, lihtne peenhäälestamine. Ausalt öeldes otsetee.
vLLM Infra-meelsed meeskonnad Tasuta Kiire LLM-i serveerimine, tõhus KV-vahemälu, suur läbilaskevõime tavalistel GPU-del.
Llama.cpp Tinkerid, servaseadmed Tasuta Käivita mudeleid lokaalselt sülearvutites ja telefonides kvantiseerimise abil.
LangChain Rakenduste arendajad, prototüüpide loojad Tasuta Kokkupandavad ketid, ühendused, agendid. Kiired võidud, kui asjad lihtsana hoida.
Stabiilne difusioon Reklaamitöötajad, tootemeeskonnad Vabad raskused Piltide genereerimine kohapeal või pilves; massiivsed töövood ja kasutajaliidesed selle ümber.
Ollama Arendajad, kes armastavad kohalikke käsurealiide Tasuta Kohalikud mudelid, mida saab ise käivitada. Litsentsid erinevad mudelikaarditi – jälgige seda.

Jah, palju on „tasuta“. Hosting, graafikaprotsessorid, salvestusruum ja töötunnid pole tasuta.

Kuidas ettevõtted tegelikult avatud lähtekoodiga tehisintellekti tööl kasutavad 🏢⚙️

Kuuled kahte äärmust: kas kõik peaksid kõike ise korraldama või ei peaks keegi. Tegelik elu on keerulisem.

  1. Prototüüpimine kiiresti – alustage avatud mudelitega, et valideerida kasutajakogemust ja mõju. Hiljem refaktoreerige.

  2. Hübriidteenindus – privaatsustundlike kõnede jaoks kasutage VPC-hostitud või kohapealset mudelit. Pika saba või tippkoormuse korral kasutage hostitud API-t. Väga tavaline.

  3. Kitsaste ülesannete jaoks peenhäälestus – valdkonna kohandamine on sageli parem kui toores skaala.

  4. RAG kõikjal – otsinguga laiendatud genereerimine vähendab hallutsinatsioone, maandades vastused teie andmetes. Avatud vektorandmebaasid ja adapterid muudavad selle ligipääsetavaks.

  5. Ääreplatvorm ja võrguühenduseta – sülearvutite, telefonide või brauserite jaoks koostatud kerged mudelid laiendavad tootepinda.

  6. Vastavus ja audit – kuna saate sisu kontrollida, on audiitoritel midagi konkreetset üle vaadata. Sellele lisandub vastutustundlik tehisintellekti poliitika, mis vastab NISTi RMF-i kategooriatele ja dokumentatsiooni juhistele [3].

Väike märkus: Olen näinud privaatsust arvestavat SaaS-meeskonda (keskmise suurusega EL-i kasutajad), kes võtsid kasutusele hübriidse lahenduse: väike avatud mudel VPC-s 80% päringute jaoks; massiivühendus hostitud API-ga haruldaste ja pika kontekstiga päringute jaoks. Nad vähendasid latentsust tavalisel teel ja lihtsustasid andmekaitsealase mõjuhinnangu paberimajandust – ilma ookeani keema ajamata.

Riskid ja viperused, milleks peaksite valmistuma 🧨

Olgem selles suhtes täiskasvanud.

  • Litsentsi triiv – repositoorium käivitab MIT-i, seejärel liiguvad kaalud kohandatud litsentsi alla. Hoidke oma sisemine register ajakohasena või saadate vastavusüllatuse [2][4][5].

  • Andmete päritolu – hägusate õigustega treeningandmed saavad mudelitesse voolata. Jälgige allikaid ja andmestiku litsentse, mitte vibreid [5].

  • Turvalisus – käsitle mudeli artefakte nagu iga teist tarneahelat: kontrollsummad, allkirjastatud versioonid, SBOM-id. Isegi minimaalne SECURITY.md fail on parem kui vaikus.

  • Kvaliteedi varieeruvus – avatud mudelid on väga erinevad. Hinnake oma ülesannete, mitte ainult edetabelite põhjal.

  • Varjatud infrastruktuurikulud – kiireks järeldamiseks on vaja graafikaprotsessoreid, kvantiseerimist, partiidena töötlemist ja vahemällu salvestamist. Avatud tööriistad aitavad; maksad ikkagi arvutuste eest.

  • Haldusvõlg – kui mudeli elutsükkel ei kuulu kellelegi, tekib konfiguratsiooniprobleem. Kerge MLOpsi kontrollnimekiri on kuldaväärt.

Õige avatuse taseme valimine teie kasutusjuhtumi jaoks 🧭

Veidi viltune otsustusprotsess:

  • Kas vajate kiiret tarnimist, kuid samas ka väiksemaid vastavusnõudeid? Alustage avatud mudelite, minimaalse häälestamise ja pilveteenusega.

  • Kas vajate ranget privaatsust või võrguühenduseta toimimist? Valige hästi toetatud avatud pinu, isehostimise järeldamine ja vaadake litsentsid hoolikalt üle.

  • Vajad laialdasi ärilisi õigusi ja levitamist? Eelista OSI-standardiga kooskõlastatud koodi ja näidislitsentse, mis lubavad selgesõnaliselt ärilist kasutamist ja levitamist [1][5].

  • Kas vajate uurimistöös paindlikkust ? Olge algusest lõpuni, sh andmete puhul, leebe, et tagada reprodutseeritavus ja jagatavus.

  • Pole kindel? Katseta mõlemat. Üks rada tundub nädala pärast ilmselgelt parem.

Kuidas hinnata avatud lähtekoodiga tehisintellekti projekti nagu professionaal 🔍

Kiire kontroll-leht, mida ma pean, vahel salvrätikul.

  1. Litsentsi selgus – kas kood on OSI poolt heaks kiidetud? Aga kaalud ja andmed? Kas on mingeid kasutuspiiranguid, mis teie ärimudelit takistavad [1][2][5]?

  2. Dokumentatsioon – installimine, kiirjuhend, näited, tõrkeotsing. Dokumentatsioon on kultuuriline väljendus.

  3. Väljalaskerütm – Sildistatud väljalasked ja muudatuste logid viitavad stabiilsusele; juhuslikud väljalasked viitavad kangelaslikkusele.

  4. Võrdlusnäitajad ja hindamised — kas ülesanded on realistlikud? Kas hindamised on käivitatavad?

  5. Hooldus ja haldamine — selged koodiomanikud, probleemide triaaž, PR-reageerimine.

  6. Ökosüsteemi sobivus — sobib hästi teie riistvara, andmesalvestuste, logimise ja autoriseerimisega.

  7. Turvaseisund — allkirjastatud esemed, sõltuvuste skannimine, CVE-de käsitlemine.

  8. Kogukonna signaal — arutelud, foorumi vastused, näidisrepod.

Laiema vastavuse tagamiseks usaldusväärsete tavadega kaardistage oma protsess NIST AI RMF kategooriate ja dokumentatsiooni artefaktidega [3].

Süvaanalüüs 1: modellilitsentside segane kesktee 🧪

Mõned kõige võimekamad mudelid asuvad kategoorias „avatud kaalud tingimustega“. Need on ligipääsetavad, kuid neil on kasutuspiirangud või ümberjaotamise reeglid. See võib olla hea, kui teie toode ei sõltu mudeli ümberpakendamisest ega kliendikeskkondadesse saatmisest. Kui teil on , pidage läbirääkimisi või valige mõni muu alus. Peamine on siduda oma allavoolu plaanid tegeliku litsentsitekstiga , mitte ajaveebipostitusega [4][5].

OpenRAIL-tüüpi litsentsid püüavad leida tasakaalu: julgustada avatud uurimistööd ja jagamist, samal ajal takistades väärkasutust. Kavatsus on hea; kohustused jäävad ikkagi sinu. Loe tingimusi ja otsusta, kas need vastavad sinu riskitaluvusele [5].

Süvaanalüüs 2: andmete läbipaistvus ja reprodutseeritavuse müüt 🧬

„Ilma täielike andmeväljavõteteta on avatud lähtekoodiga tehisintellekt võlts.“ Mitte päris. Andmete päritolu ja retseptid suudavad pakkuda olulist läbipaistvust isegi siis, kui mõned toorandmekogumid on piiratud. Filtreid, valimisuhteid ja puhastusheuristikaid saab piisavalt hästi dokumenteerida, et teine ​​meeskond saaks tulemusi ligikaudselt hinnata. Täiuslik reprodutseeritavus on hea. Teostatav läbipaistvus on sageli piisav [3][5].

Kui andmekogumid on avatud, on levinud Creative Commonsi litsentsid, näiteks CC-BY või CC0. Suuremahuline autoriõigusega viitamine võib olla ebamugav, seega standardiseerige selle käsitlemine juba varakult.

Süvaanalüüs 3: praktilised MLOp-id avatud mudelite jaoks 🚢

Avatud mudeli saatmine on nagu mis tahes teenuse saatmine, millele lisanduvad mõned iseärasused.

  • Teenindav kiht – spetsiaalsed järeldusserverid optimeerivad partiide töötlust, KV-vahemälu haldamist ja tokeni voogedastust.

  • Kvantimine — Väiksemad kaalud → odavam järeldus ja lihtsam servade juurutamine. Kvaliteedi kompromissid on erinevad; mõõtke oma ülesannetega.

  • Jälgitavus – logige päringuid/väljundeid privaatsust silmas pidades. Hindamiseks näidis. Lisage triivi kontrolle nagu traditsioonilise masinõppe puhul.

  • Värskendused – mudelid saavad käitumist peenelt muuta; kasutada kanaarilinde ja pidada arhiivi tagasipööramiste ja auditite jaoks.

  • Hindamisraamistik – kasutage ülesandepõhist hindamissüsteemi, mitte ainult üldiseid võrdlusnäitajaid. Lisage vastastikuse abi osutamise ülesanded ja latentsusaja eelarved.

Miniplaan: nullist kasutatava pilootprojektini 10 sammuga 🗺️

  1. Määrake üks kitsas ülesanne ja mõõdik. Grandioosseid platvorme veel pole.

  2. Valige lubav baasmudel, mis on laialdaselt kasutatav ja hästi dokumenteeritud.

  3. Tõuse püsti lokaalse järeldamise ja õhukese ümbrisega API vastu. Hoia see igavana.

  4. Lisa oma andmete maapealsetele väljunditele otsing.

  5. Valmista ette pisike sildistatud eval-komplekt, mis kajastab sinu kasutajaid koos vigadega ja kõigega.

  6. Täpsusta või suuna häälesta ainult siis, kui hindamine ütleb, et peaksid.

  7. Kvantige, kui latentsus või kulud on väikesed. Mõõtke kvaliteeti uuesti.

  8. Lisa logimine, punase teamimise viipad ja kuritarvituste poliitika.

  9. Värav tunnuslipuga ja laskmine väikesele kohordile.

  10. Korda. Esita väikseid täiustusi igal nädalal... või siis, kui see on tõeliselt parem.

Avatud lähtekoodiga tehisintellekti kohta käivad levinud müüdid, veidi ümber lükatud 🧱

  • Müüt: avatud mudelid on alati halvemad. Tegelikkus: õigete andmetega sihipäraste ülesannete puhul suudavad peenhäälestatud avatud mudelid suurematest hostitud mudelitest paremad olla.

  • Müüt: avatus tähendab ebakindlust. Tegelikkus: avatus võib parandada kontrolli. Turvalisus sõltub tavadest, mitte salastatusest [3].

  • Müüt: litsents ei oma tähtsust, kui see on tasuta. Tegelikkus: see on kõige siis, kui see on tasuta, sest tasuta litsents skaleerib kasutamist. Sa tahad selgesõnalisi õigusi, mitte emotsioone [1][5].

Avatud lähtekoodiga tehisintellekt 🧠✨

Avatud lähtekoodiga tehisintellekt ei ole religioon. See on praktiliste vabaduste kogum, mis võimaldab teil luua suurema kontrolli, selgema juhtimise ja kiirema iteratsiooniga. Kui keegi ütleb, et mudel on „avatud“, küsige, millised kihid on avatud: kood, kaalud, andmed või lihtsalt juurdepääs. Lugege litsentsi. Võrrelge seda oma kasutusjuhtumiga. Ja seejärel, mis kõige tähtsam, testige seda oma tegeliku töökoormusega.

Kummalisel kombel on parim osa kultuuriline: avatud projektid kutsuvad esile panuseid ja kontrolli, mis kipub nii tarkvara kui ka inimesi paremaks muutma. Võite avastada, et võidukäik pole mitte suurim mudel või kõige uhkem võrdlusnäitaja, vaid see, mida saate järgmisel nädalal tegelikult mõista, parandada ja täiustada. See on avatud lähtekoodiga tehisintellekti vaikne jõud – mitte imerohi, vaid pigem kulunud multitööriist, mis päästab päeva.

Liiga kaua ei lugenud 📝

Avatud lähtekoodiga tehisintellekt pakub sisukat vabadust tehisintellekti süsteeme kasutada, uurida, muuta ja jagada. See avaldub kihtide lõikes: raamistikes, mudelites, andmetes ja tööriistades. Ärge ajage avatud lähtekoodi segamini avatud kaalude või avatud juurdepääsuga. Kontrollige litsentsi, hinnake seda oma tegelike ülesannetega ning arvestage turvalisuse ja juhtimisega esimesest päevast alates. Tehke seda ja saate kiiruse, kontrolli ja rahulikuma tegevuskava. Üllatavalt haruldane, ausalt öeldes hindamatu 🙃.

Viited

[1] Avatud lähtekoodi algatus – avatud lähtekoodi definitsioon (OSD): loe edasi
[2] OSI – tehisintellekti ja avatuse põhjalik analüüs: loe edasi
[3] NIST – tehisintellekti riskijuhtimise raamistik: loe edasi
[4] Meta – laama mudeli litsents: loe edasi
[5] Vastutustundliku tehisintellekti litsentsid (OpenRAIL): loe edasi

Leia uusim tehisintellekt ametlikust tehisintellekti abilise poest

Meist

Tagasi blogisse