Miks tehisintellekt mõnikord asju välja mõtleb [video ja viktoriin]

Lühike vastus: tehisintellekt mõtleb asju mõnikord välja, sest see ennustab usutavaid järgmisi sõnu, mitte kontrollitud fakte – sujuvus ei ole tõestus. Kui teema on nišš, kõrge riskiga või nõuab täpseid nimesid ja numbreid, täidetakse lüngad enesekindlate oletustega, kui te ei põhjenda vastust ja ei kontrolli kindlaid väiteid.

Artiklid, mida võiksite pärast seda lugeda:

🔗 Lõpeta tehisintellekti kohtlemine nagu Google'it.
Loe, miks paremad tehisintellekti tulemused nõuavad teistsugust lähenemist.

🔗 Sinu esimene korralik tehisintellektil põhinev ülesanne
Loo selge ja tõhus ülesanne, kasutades lihtsat struktuuri.

🔗 Suurepärase tehisintellektil põhineva käsuviiba 4 osa
Avastage neli olulist elementi, mis parandavad tehisintellektil põhineva käsuviiba kvaliteeti.

🔗 Mis tegelikult on tehisintellekt?
Saage tehisintellektist aru lihtsas, praktilises ja igapäevases keeles.

Peamised järeldused:

Ennustus teadmata: käsitle ladusat proosat mustri lõpuleviimisena, mitte kunagi vande all antud tõendina.

Enesekindluse lõks: Enesekindel toon on stiil; täpsust tuleb vestluse väliselt eraldi kontrollida.

Võltsitud pakend: Enne kui usaldate korralikke viiteloendeid, otsige ise viiteid ja tsitaate.

Põhjenda vastust: kleebi allika märkmed ja keela väljamõeldud URL-id, uuringud või statistika.

Inimkontroll: kontrollige esmalt kõige riskantsemat nõuet, eriti tervishoiu, õiguse või rahanduse valdkonnas.

Ennustamine ei ole sama mis teadmine

Otsekohene versioon: enamik vestlusmudeleid on mustrimasinad. Sa esitad küsimuse. Need genereerivad vastuse, mis sobib hea vastuse kujuga. See kuju hõlmab fakte, tooni, struktuuri – kogu kostüümi. Mõnikord pakib kostüüm endas tegelikke teadmisi. Mõnikord pakib see enesekindla oletuse, mis täitis lünga.

Vist aitab mingi lai metafoor, aga siis lähen natuke ajas tagasi. Kujutage ette džässpianisti, kes on kuulnud miljon laulu. Paluge neil mängida "seda lugu sinisest kohvrist" ja nad võivad välja mõelda ilusa viisi, mida pole kunagi olemas olnudki – sest palve kõlas nii, nagu peaks. Oodake – see liialdab kunstipärasusega. See on pigem nagu automaatne täitmine steroididel. Mudel lõpetab usutava lõigu, mitte ei ava Tõde sildiga dokumendikappi.

Seega, kui inimesed küsivad, miks tehisintellekt mõnikord asju välja mõtleb, on lühike vastus: lüngad täidetakse kõigega, mis statistiliselt õigena kõlab. Puuduva viite korral luuakse akadeemilise välimusega viide. Numbris ebakindel olles pakub see korrektse numbri. Ilma inimese teise nimeta loob see ajastule ja kultuurile sobiva nime. Alguses veidi üllatav. Kui mustrit näha, siis enam mitte. 

• Ladus tekst on genereerimise eesmärk, mitte kontrollitud tõde.
• Tühjadesse teadmiste lünkadesse valatakse ikka veel sõnu.
• Mudeli järjestuses võib "kõlab õigesti" tõenäosus olla parem kui "on õige".

Enesekindlus versus täpsus – ebamugav lõhe

Inimesed maandavad riske, kui nad pole kindlad. Me ütleme „Ma arvan“, „võib-olla“, „Peaksin kontrollima“. Ka mudelid saavad maandamisega hakkama – kui neilt seda paluda –, kuid vaikeväljundid kõlavad sageli nagu enesekindel briifing. See lihvimine on abivalmiduse treenimise tunnusjoon, mitte märk sellest, et iga väide oli põhjendatud.

Enesekindlus ja täpsus on erinevad näitajad. Ühel saab olla kõrge aste, samal ajal kui teine ​​on nullilähedane. Seda oled kogenud ka teiste inimeste puhul: töökaaslane, kes selgitab valet protsessi täieliku kindlusega. Tehisintellekt saab sama tantsu teha, ainult et kiiremini ja parema vormindusega.

Praktiline järeldus: käsitle enesekehtestavat fraasi stiilina, mitte tõendina. Kui vastuses puuduvad allikad, mida saaksid kontrollida, ei tunnistata ebakindlust ja on hunnik konkreetseid nimesid või numbreid – võta tempot maha. Spetsiifilisus ilma aluseta on klassikaline tunnusjoon. 

• Enesekindel toon ≠ kontrollitud sisu.
• Palu modellil ebakindlust meelega märkida.
• Eelista võltsitud õhukindlale briifile „ma pole milleski kindel“.

Valmistatud tsitaadid ja detailid, mis näevad välja ehtsad

See teeb haiget, sest näeb nii professionaalne välja. Võltsitud artiklite pealkirjad. Võltsitud ajakirjade nimed. Võltsitud URL-id, mis tunduvad peaaegu klõpsatavad. Võltsitud tsitaadid, mis on omistatud kuulsatele inimestele. Vormindus on sageli täiuslik – kursiiv, aastakujulisi kohatäiteid on siin meelega välditud, autori kõlavad nimed – ja see pakend petab sirvijaid.

See juhtub selgel põhjusel. Tsitaadi kuju on treeningtekstis tavaline. Kui küsida "allikaid", võib mudel luua vormi ilma reaalset kirjet hankimata. See on nagu paluda kellelgi peast kviitung välja tõmmata. Saad midagi, mis näeb välja nagu kviitung. Poodi poleks kunagi eksisteerinud.

Kord vaatasin, kuidas üks mustanditöö koostas uuringu kaugtöö tootlikkuse kohta koos laitmatu autorite nimekirjaga. See tundus eelretsenseeritud olevat. See polnud mitte midagi. See ongi oht: su aju lõdvestub, kui pakend tundub kallis. Ära lõdvestu. 

• Nõua pealkirju, mida saad ise otsida – ja otsi neid siis tõsiselt.
• Suhtu kahtlustavalt kenadesse tsitaatide ja viitamise komplektide hulka, mida sa pole kunagi küsinud.
• Kui "allikat" ei leita kiiresti, käsitle väidet põhjendamatuna.

Millal on leiutise risk suurim

Iga vestlus pole võrdselt ohtlik. Kohviteemaline luuletus võib vabalt metafoore välja mõelda – see ongi mõte. Ravimidoos, seaduslik tähtaeg, konkurendi hinnapoliitika või avaldatud artikli ajalooline väide elab teisel planeedil.

Risk kasvab, kui teema on nišiteemaline, hiljutine või väga spetsiifiline. See kasvab ka siis, kui nõutakse täpseid numbreid, nimetatud dokumente, eraettevõtete siseandmeid või „loetlege kümme eelretsenseeritud uuringut“. Mida täpsem on küsimus, seda suurem on mudeli kiusatus täita lüngad usutava täitematerjaliga.

Pikad muljetavaldavad vastused võivad olla riskantsemad kui lühikesed ettevaatlikud. Pikkus paistab pingutusena. Pingutus paistab hoolivusena. Hoolitsus paistab tõena. See madulik muljete ahel on see, kuidas halvad faktid slaididesse libisevad. 

• Kõrge risk: tervis, õigus, rahandus, vastavus, ohutus, nimelised isikud, täpne statistika.
• Keskmise riskiga: nišitööstuse protsessid, tööriistade sätted, parimate tavade loendid.
• Väiksem risk: ajurünnak, konspekteerimine, oma mustandi ümberkirjutamine, toonimuudatused.

Usaldusväärsed vs ebakindlad väljundid - kiire võrdlus

Laud võidab järjekordse innustava jutu. Kerged veidrused on kaasas, sest tavalised vestlused on veidrad.

Hoia seda mõttelist tulemuskaarti käepärast. Sa hakkad märkama värisevaid tulemusi samamoodi nagu märkad fotol veidi moonutatud naeratust – midagi on poseeritud.

Kuidas märgata väljamõeldud vastuseid ilma paranoiliseks muutumata

Sa ei pea iga omadussõna kontrollima. Sul on vaja odavat kontrollimisharjumust oluliste väidete jaoks. Kontrolli kõige teravamat külge: numbrit, nime, poliitikat, tsitaati. Kui see külg ebaõnnestub, on ülejäänud vastus katseajal.

Veel üks märk: sisemine vastuolu. Mudel väidab, et tööriist teeb X-i "alati", seejärel kirjeldab erandit nii, nagu oleks see standardne. Või leiutab see funktsiooni ja selgitab seejärel, kuidas see välja lülitada – nagu unenägu, mis pidevalt uksi leiutab. Küsige järelküsimusi, mis torkavad nõrku kohti. Väljamõeldud maailmad kipuvad surve all kõikuma.

Samuti jälgige "liiga täiuslikku" pakendit. Iga lõik on võrdselt viimistletud. Iga soovitus on võrdselt enesekindel. Ehtsal asjatundlikkusel on tavaliselt tekstuur – hoiatused, kompromissid, "see oleneb". Lame täiuslikkus väärib eraldi uurimist. 

• Kontrolli esmalt kõige riskantsemat väidet, mitte kogu esseed.
• Küsi "milles sa kõige vähem kindel oled?" ja vaata, kas mask libiseb pealt.
• Kontrollige nimesid, tiitleid ja numbreid väljaspool vestlust.
• Eelista vastuseid, mis on seotud kleebitud tekstiga, vabalt ringi jooksvatele faktidele.

Leiutamist vähendavad harjumused

Sa ei saa hallutsinatsioone võlulausega kõrvaldada – vabandust –, aga sa saad plahvatuse raadiust vähendada. Head vihjed piiravad mängu. Halvad vihjed kutsuvad esile improvisatsiooni.

Proovi selliseid harjumusi. Need kõlavad kuivalt. Need toimivad sagedamini kui nutikad nipid.

• Uurige oma teadmisi: "Kasutage ainult neid märkmeid, mida ma kleebin. Kui need puuduvad, öelge, et te ei tea."
• Keelustage võltsitud allikad: "Ärge mõelge välja viiteid, tsitaate ega URL-e."
• Sunnitud määramatuse sildid: "Märgista iga täpp: teadaolev / järeldatud / oletus."
• Küsi alternatiive: "Esita kaks võimalust ja põhjenda, miks kumbki neist võib vale olla."
• Kahtluse ületamise taotlus: "Loetlege oma eeldused."
• Eelista atmosfäärile struktuuri: tabeleid, kontroll-lehti ja väidete/tõendite veerge.

Üllataval kombel vähendab mudelile ütlemine, et on okei öelda "ma ei tea", sotsiaalset survet kindluse saavutamiseks. Mudelid peegeldavad ülesannet. Kui ülesanne premeerib täielikkust iga hinna eest, saate vormindusega väljamõeldisi. Kui ülesanne premeerib selget lünkade arutamist, saate vähem säravaid valesid. 

Ja jah – järelpärimised on olulised. Esimesed vastused on mustandid. „See viide tundub võlts – eemalda kõik, mida sa ei saa kinnitada” on täiesti tavaline teine ​​sõnum. Suhtu vestlusse nagu toimetamisse, mitte nagu müügiautomaati, mis sulle esimese mündi eest tõtt võlgu on.

Maandus, järelmeetmed ja ebakindlusega elamine

Maandamine tähendab vastuse sidumist millegagi väljaspool mudeli improvisatsiooni: teie kleebitud poliitikadokumendiga, arvutustabeliga, koosoleku märkmetega, teadaoleva avaliku lehega, mida te ise kontrollite. Kui vastus peab jääma selle piiri sisse, on leiutisel vähem ruumi tegutsemiseks.

Järelküsimused on teine ​​takistus. „Kust see number tuli?“ „Milline osa on järeldus?“ „Kirjuta ümber ilma nimetamata uuringuteta.“ Iga küsimus on väike audit. Ma arvan, et see ongi täiskasvanute viis neid tööriistu kasutada – mitte kummardamine, mitte paanika, lihtsalt auditid.

Ebakindlus ei ole teie töövoo viga. See on ilm. Mõnel päeval suudab mudel teie enda tekstist kokkuvõtte teha. Mõnel päeval loob see alamkomitee, mis kunagi kokku ei tulnud. Teie ülesanne on otsustada, millised väljundid vajavad vihmakeepi. 

• Kleepige allikmaterjal, kui täpsus on oluline.
• Küsi nõude tasemel usaldusmärgiseid.
• Hoidke inimest oluliste otsuste tegemisel kursis
• Loominguliste ülesannete jaoks tuleks „loominguline vabadus” jätta – mitte reeglite järgimiseks.

Mida teha, kui teil tekib keset voolu hallutsinatsioon

Ära aja end hulluks. Ära vandu tööriistast igaveseks, nagu see oleks sind isiklikult reetnud – kuigi tung võib tunduda terav. Paranda teema ja jätka.

Lihtne taastumistsükkel:

• Hüüa otse välja: "See allikas tundub olevat välja mõeldud. Eemalda alusetud väited."
• Ankurda uuesti: kleebi tegelik dokument, tsitaat või andmed.
• Ehita kitsalt ümber: küsi parandatud osa, mitte täiesti uut ja lihvitud esseed.
• Kontrolli uuesti teravaid servi: nimesid, numbreid, protsessi etappe.
• Otsusta usalduse tase: ajurünnaku partner vs mustandi assistent vs "mitte selle teema jaoks".

Ühe hallutsinatsiooni tabamine võib ülejäänud vestlust parandada – kui piiranguid rangemaks muuta. Mudel ei "tunne end süüdi", kuid teie selgemad juhised muudavad seda, milleks see optimeerib. Te juhite. Roolige kõvemini, kui ilmneb leidlikkus. 

Igapäevased stsenaariumid, kus see vaikselt loeb

Töömeilid: väljamõeldud „tööstusstandardile vastav ajajoon” võib seada ootusi, mida te ei suuda täita. Kool ja õppimine: võlts selgitus võib teie pähe imbuda enne, kui te seda märkate. Klienditoe mustandid: väljamõeldud tagasimaksereeglist saab lubadus. Loovkirjutamine: leiutage – see on mänguväljak.

Läbiv joon on tagajärg. Kui valed sõnad maksavad raha, usaldust, hindeid või turvalisust, pole kontrollimine valikuline rügamine. Kui valed sõnad maksavad vaid õlakehituse, siis lõdvestu. Ettevaatuse ja tagajärje ühitamine on siin täiskasvanute oskus – enamat kui sõna "hallutsinatsioon" päheõppimine

Samuti: meeskonnad peaksid normaliseerima väite „Ma kontrollisin seda väidet“ samamoodi nagu nad normaliseerivad väite „õigekirjakontroll läbis“. Vastasel juhul muutub üks lihvitud lõik üleöö hõimuteadmiseks. Appi.

Peamised järeldused

Niisiis – miks tehisintellekt mõnikord asju välja mõtleb, taandub järgmisele: need süsteemid ennustavad usutavat keelt, täidavad lüngad mustrite sobitamisega ja kõlavad seda tehes sageli kindlalt. See kombinatsioon loob enesekindlaid valesid vastuseid, väljamõeldud viiteid ja korralikke detaile, mida kunagi ei juhtunud.

Sa ei pea tööriista kartma. Sul on vaja harjumusi. Kontrolli kindlaid väiteid pisteliselt. Keela väljamõeldud allikad. Kleebi konkreetne kontekst. Nõua ebakindlust. Kasuta järelkontrolle audititena. Jäta vaba genereerimine madala riskiga loominguliseks tööks.

Soravus ei ole iseloomu näitaja. Käitu nagu andekas praktikant, kes trükib naeruväärselt kiiresti, mõtleb vahel välja koosolekuid, mida kunagi ei toimunud, ja suudab siiski silma paista, kui teda juhendatakse. Säilita järelevalve. Säilita vaimukus. Hoia skeptitsism kerge, kuid maandatud. Nii saad kasu ilma faktideks maskeeritud väljamõeldised esitlemata.

Praktiline näide: väljamõeldud viidete tabamine konkurendi uurimisülesandes

Hallutsinatsioonid tunduvad abstraktsed, kuni lihvitud lõik peaaegu kliendi esitlusse jõuab. Siin on näide sellest, kuidas Ühendkuningriigi turundusanalüütik kasutas selles juhendis kirjeldatud harjumusi, et lõpetada uurimistööks maskeeritud ilukirjanduse levitamine – ilma vestlusrobotist loobumata.

Stsenaarium

Samil on müügi avakõne jaoks üheleheküljelise konkurendi lühiülevaate koostamiseks kaks tundi. Küsimus on tuttav: tugevused, hinnasignaalid ja „mõned usaldusväärsed allikad”. Vanal kombel tippis Sam „võta konkurent X kokku koos allikatega” ja sai korraliku lühiülevaate kolme akadeemilise ilmega viite ja täpse turuosa protsendiga. See kõlas lühidalt. See oli enamasti välja mõeldud. Ühte pealkirja ei leitud. Turuosa näitajat konkurendi veebisaidil kusagil ei olnud.

Sam ei vaja paremini kõlavat mudelit. Sam vajab maandatud töövoogu: kleebi allikamärkmed, keela võltsitud allikad, sunni peale ebakindluse sildid, kontrolli esmalt kõige teravamat väidet ja seejärel ehita uuesti üles ainult katkine osa.

Eesmärk on koostada ülesanne, mida meeskond saab arutelupunktidena usaldada – mitte peast võetud kviitung, mis ainult kviitungi moodi välja näeb.

Mida assistent vajab

• Samil on juba olemas allikmaterjal: avalehe tekst, hinnakirja lehe tekst, kaks hiljutist tugipäringut, märkmed kaotatud tehingust
• Karm reegel: faktiväidete puhul kasutage ainult kleebitud teksti; öelge "Ma ei tea", kui märkused puuduvad
• Väljamõeldud viidete, tsitaatide, URL-ide ja statistika keeld
• Väljundkuju, mis eraldab teadaolevad / järeldatud / oletatavad väärtused
• Aeg üheks inimese poolt nimede, numbrite ja võimalike "allika" pealkirjade pisteliseks kontrollimiseks enne kaardipaki jagamist
• Luba esitada kuni kolm selgitavat küsimust lünkade täitmise asemel

Näidisjuhis

Sõnum 1 – põhjendatud lühiülevaade: Kasutades ainult allpool kleebitud märkmeid, koostage üheleheküljeline konkurendi müügiülevaade. Jaotised: Mida nad väidavad / Mille üle kliendid kurdavad / Hinnasignaalid / Lahtised küsimused. Ärge mõelge välja viiteid, tsitaate, URL-e ega statistikat. Kui fakti märkmetes pole, kirjutage „tundmatu“ ja lisage see lahtiste küsimuste alla. Märgistage iga täpploend: teadaolev / järeldatav / oletus. Briti inglise keel. Ilma preambulita.

Sõnum 2 – kahtluse korral üleminek: Loetle kõik tehtud oletused. Eemalda kõik, mis on märgistatud kui "oletus", välja arvatud juhul, kui saad viidata kleebitud lausele, mis seda toetab. Kui oled varem allika välja mõelnud, kustuta see ja maini seda.

Sõnum 3 – kitsalt ümber ehitada: See turuosa rida ei ole toetatud. Kirjutage ümber ainult hinnasignaalide osa ilma numbriteta, välja arvatud juhul, kui need ilmuvad minu märkmetes. Hoidke ülejäänud osad alles.

Kuidas seda testida

• Esita vabalt voolav küsimus ("võta konkurent X kokku kolme eelretsenseeritud allika abil") ja ülaltoodud põhjendatud ülesanne. Võrdle väljamõeldud pealkirju ja võltsitud statistikat.
• Kontrolli esmalt kõige riskantsemat väidet (numbrit või nimega uuringut), mitte tervet lehte.
• Küsi: „Milles sa kõige vähem kindel oled?“ Tugev vastus nimetab lünki; ebakindel vastus kahekordistab raskusi.
• Äärmuslik juhtum: eemaldage kleebitud märkmetest hinnakiri ja kinnitage, et mustandis on märgitud "tundmatu", selle asemel, et plaanihinda välja mõelda.
• Jagamisele eelnevad vastuvõtukontrollid: (1) iga "teadaolev" täpploend vastab kleebitud reale, (2) null väljamõeldud viidet, (3) avatud küsimused loetlevad tegelikud lüngad, (4) otsisite ise järelejäänud pealkirju, (5) täpsed statistikad puuduvad ilma märkuseta.

Tulemus

Illustreeriv tulemus (näidishinnang ühe analüütiku konkurendi-lühiülesande töövoo kohta, mitte avaldatud uuring): 8 briifinguülesande puhul tõusis seinakellal kuluv aeg olekult "märkmed avatud" kuni "mustandini, mis on valmis inimese faktide kontrollimiseks", veidi, keskmiselt umbes 12 minutilt (ühekordselt lihvitud ilukirjandus) umbes 15 minutini põhjendatud ülesande puhul - kuid korrastamise ja piinlikkuse oht vähenes. Kõvade väidete inimese poolt kontrollimiseks kuluv aeg langes keskmiselt umbes 18 minutilt (võltsitud pealkirjade tagaajamine ja ümberkirjutamine) umbes 6 minutini, kui väited olid eelnevalt märgistatud ja väljamõeldud allikad keelatud, seega vähenes netoaeg umbes 9 minutit ülesande kohta või umbes 72 minutit kogu komplekti ulatuses. Vastuvõtu kontrollnimekirjas (ilma väljamõeldud viidete, toetamata statistikata, teadaolevate/järeldatud/oletatavate siltideta, avatud küsimustega, mis nimetavad lünki) läbis esimesel läbivaatamisel 7 8-st põhjendatud mustandist võrreldes 2-ga 8-st ühekordse mustandist. Piirangud: väike valim, üks analüütik, üks briifingu tüüp; lihtsad konkurendid selge avaliku hinnakujundusega vähendavad lõhet; „Kontrollimisaeg” hõlmas kahtlaste pealkirjade veebiotsinguid.

Oma versiooni mõõtmiseks: tehke 5 ülesannet oma praeguse harjumusega ja 5 kleebitud allikate + keelatud väljamõeldud viidete + väidete siltidega; registreerige keskmine mustandiaeg, keskmine kontrollimisaeg ja kontrollnimekirja läbimise määr näidatud nimetajaga.

Mis võib valesti minna

• Sujuvuse kallutatus: täiuslik grammatika ja korralikud täpploendid panevad sind kontrolli vahele jätma.
• Viitamise cosplay: "Allikate" küsimine ilma kleebitud materjalita kutsub üles stipendiumile ilma vastava kirjeta.
• Liiga täielikud loendid: „Andke mulle kümme uuringut” premeerib täitematerjali, kui teie märkmetes on neid ainult kolm.
• Kogu essee ümberkirjutamine: Pärast ühte võltsrida palu selle osa täpset ümberkirjutust – mitte uut lihvi.
• Kõrge panusega teemad: tervishoid, õigus, rahandus ja vastavus vajavad tugevamaid inimlikke ühendusi kui müügiargumentide briif.
• Inimlikku silmust pole: Sildistatud mustand võib kleebitud lauset ikkagi valesti lugeda. Jagamisnupp kuulub endiselt Samile.

Praktiline kaasavõetav toit

Tehisintellekt mõtleb asjad välja, sest see ennustab usutavat keelt lünkadesse – mitte sellepärast, et see tahaks sind petta. Sujuvust käsitle stiilina, mitte tõendina. Kleepi piirded kinni, keela võltsitud allikad, märgista ebakindlus, kontrolli kõige teravamaid väiteid ja paranda teemat, kui midagi on kõikuma löödud. Nii säilitad kiire koostamispartneri eelise ilma enesekindlat lugu avaldamata, mida pole kunagi juhtunud.

KKK

Miks tehisintellekt mõnikord asju välja mõtleb?

Enamik vestlusmudeleid on mustrimasinad: need genereerivad vastuse, mis vastab hea vastuse kujule, mitte kontrollitud dokumendikapile sildiga „Tõde“. Lüngad täidetakse kõigega, mis statistiliselt õigesti kõlab – akadeemilise välimusega tsitaat, korrektne number või ajastule sobiv detail. Ladus tekst on genereerimise eesmärk, seega „kõlab õigesti“ võib olla parem kui „on õige“. Seetõttu saabuvad väljamõeldud vastused sageli täiusliku grammatika ja korrektsete täpploenditega.

Kas tehisintellekti enesekindlus on sama mis täpsus?

Ei. Enesekindlus ja täpsus on erinevad näitajad – üks võib olla kõrge, samas kui teine ​​võib olla nullilähedane. Vaikimisi väljundid kõlavad sageli enesekindla briifinguna, sest koolitus premeerib kasulikku lihvimist, mitte sellepärast, et iga väide oli põhjendatud. Käsitle enesekindlat fraasi stiilina, mitte tõendina. Kui vastusel pole kontrollitavaid allikaid, ebakindlust ja palju konkreetseid nimesid või numbreid, siis aeglusta tempot.

Miks vestlusrobotid mõtlevad välja viiteid ja võltsitud allikaid?

Tsitaadi vorm on õppematerjalides tavaline, seega „allikate” küsimine võib jätta mulje teadustööst ilma reaalset allikat hankimata – näiteks peast kviitungi tõmbamiseta. Võltsitud artiklite pealkirjad, ajakirjade nimed, URL-id ja viidatud tsitaadid näevad sageli piisavalt professionaalsed välja, et petta sirvijaid. Nõua pealkirju, mida saad ise otsida; kui allikat ei leita kiiresti, käsitle väidet põhjendamatuna.

Millal on tehisintellekti leiutise risk suurim?

Risk suureneb niši-, hiljutiste või väga spetsiifiliste teemade puhul ning täpsete numbrite, nimeliste dokumentide, privaatsete sisemiste materjalide või eelretsenseeritud uuringute pikkade loendite esitamisel. Kõrge riskiga valdkonnad hõlmavad tervishoidu, õigust, rahandust, vastavust nõuetele, ohutust, nimelisi isikuid ja täpset statistikat. Ajurünnak, visandamist, oma mustandi ümberkirjutamist ja tooni muutmist on tavaliselt väiksema riskiga. Pikad muljetavaldavad vastused võivad tunduda ka turvalisemad, kui nad tegelikult on.

Kuidas ma saan tuvastada väljamõeldud tehisintellekti vastuseid ilma iga sõna kontrollimata?

Kontrolli esmalt kõige teravamat serva – numbrit, nime, eeskirja või tsitaati. Kui see ebaõnnestub, pane ülejäänu prooviajale. Jälgi sisemisi vastuolusid ja "liiga täiuslikku" pakendit ilma reservatsioonide või kompromissideta. Küsi, milles mudel on kõige vähem kindel, kontrolli nimesid ja tiitleid väljaspool vestlust ning eelista vastuseid, mis on seotud sinu kleebitud tekstiga, mitte vabalt ringi jooksvaid fakte.

Millised kiireloomulised harjumused vähendavad tehisintellekti hallutsinatsioone?

Hallutsinatsioone ei saa ühe võluväelise lausega kõrvaldada, aga plahvatuse ulatust saab vähendada. Piira teadmisi kleebitud märkmetega ja ütle "ma ei tea", kui midagi puudu on. Keela väljamõeldud viited, tsitaadid ja URL-id. Sunni kasutama silte nagu "teada/järeldud/oletus", küsi eeldusi ja eelista väidete/tõendite struktuuri. Mudelile ütlemine, et "ma ei tea" ütlemine on okei, vähendab survet valekindluse saavutamiseks.

Mida tähendab maandamine tehisintellekti kasutamisel faktitöö jaoks?

Maandus seob vastuse millegagi väljaspool mudeli improvisatsiooni – teie poliitikadokumendi, arvutustabeli, koosoleku märkmete või avaliku lehega, mida te ise kontrollite. Kui vastused peavad jääma selle piiri sisse, on leiutamisel vähem ruumi. Järelküsimused toimivad teise piirina: küsige, kust number pärineb, milline osa on järeldus või kirjutage ümber ilma nimeta uuringuteta. Hoidke inimest kursis oluliste otsuste tegemisega.

Mida peaksin tegema, kui vestluse keskel hallutsinatsioone näen?

Kutsu see välja, ankurda uuesti päris dokumendi või andmetega ja ehita uuesti üles ainult katkine osa, selle asemel et küsida täiesti uut lihvitud esseed. Kontrolli uuesti teravaid servi – nimesid, numbreid, protsessi samme – ja seejärel otsusta, kas tööriist on ajurünnaku partner, mustandi assistent või „mitte selle teema jaoks“. Selgemad piirangud muudavad seda, mille jaoks mudel optimeerib; juhi rangemalt, kui ilmneb leidlikkus.

Kuidas peatada väljamõeldud viited konkurentide uurimisülesandes?

Kleebi olemasolevad allikamärkmed, keela võltsitud allikad ja toetamata statistika ning nõua teadaolevate/järeldatud/oletatavate siltide ja avatud küsimuste loendi olemasolu. Kontrolli esmalt kõige riskantsemat väidet, tee kahtlustest koosnev test, mis eemaldab toetamata oletused, ja kirjuta ümber ainult katkine osa, kui arv ei ole toetatud. Vastuvõtmine tähendab, et iga "teadaolev" täpploend vastab kleebitud reale ja kõik ülejäänud pealkirjad otsib inimene läbi.

Millal on tehisintellektil ikka veel okei vabalt leiutada lasta?

Loovkirjutamine ja muud väikese panusega ülesanded võivad metafoore vabalt välja mõelda – see on mänguväljak. Seo ettevaatlikkus tagajärgedega: kui valed sõnad maksavad raha, usaldust, hindeid või turvalisust, pole kontrollimine valikuline. Kui need maksavad vaid õlakehituse, siis lõdvestu. Soravus ei ole iseloomu näitaja; kohtle modelli nagu kiiret praktikanti, kes vajab faktitöö osas ikkagi järelevalvet.

Viited

1. OpenAI - openai.com
2. Antroopiline - anthropic.com
3. NIST - nist.gov
4. IBM - ibm.com
5. Google'i tehisintellekt – ai.google.dev
6. Google Cloud – maandus – docs.cloud.google.com