Mida ei tohiks kunagi tehisintellekti panna

Mida ei tohiks kunagi tehisintellekti panna [video ja viktoriin]

Lühike vastus: Ärge kunagi pange avalikku tehisintellekti vestlusse paroole, API-võtmeid, ID-sid, tervise- või pangaandmeid, konfidentsiaalsuslepingu kliendifaile ega teiste inimeste andmeid. Kui vajate abi, kirjeldage probleemi kohatäidete ja redigeeritud väljavõtetega – mudel vajab probleemi kuju, mitte saladusi, mis avavad päris süsteemid.

Peamised järeldused:

Saladused jäävad võrguühenduseta: ärge kunagi kleepige paroole, märke, küpsiseid ega algfraase viibale.

Identiteedi eemaldamine: Vaheta pärisnimed, aadressid ja isikukoodid rollide ja võltsingute vastu.

Töö konfidentsiaalsus: Hoidke konfidentsiaalsuslepingu mustandid, kliendifailid ja avaldamata plaanid tarbijavestlusest eemal.

Nõusoleku piir: Ärge kleepige kolleegide, klientide ega laste isikuandmeid ilma ainult inimestele ligipääseta.

Redigeeri esmalt: kasuta kohatäiteid ja puhastatud väljavõtteid; vaheta kõike, mis on juba lekkinud.

Mida ei tohiks kunagi tehisintellekti panna

Me kleebime esmalt ja mõtleme alles siis. Vestlusrobot istub seal nagu kannatlik praktikant lõputu kohvijoogi saatel, seega tundub kogu sassis probleemi karpi kallamine peaaegu kahjutu. Sisselogimine, mis ei toimi. Lepinguklausel, mis paneb kõhu keerama. Ekraanipilt armatuurlauast, kus kõik nimed on endiselt nähtavad. Tööriist on abivalmis, õhkkond tundub privaatne ja teie aju salvestab selle vaikselt "endale kirjutatud märkmete" kõrvale

See ongi lõks. 🧠 Vestlus ei ole lukustatud sahtel. See on vestlus süsteemiga, mis salvestab, töötleb ja mõnikord ka treenib teie saadetud teavet, olenevalt tootest, seadetest ja sellest, kas te üldse seadeid märkasite. Ma ei ole siin selleks, et teid paanikasse punkrisse ajada. Mul on siin praktiline kaart sellest, mida te EI TOHIKS KUNAGI tehisintellekti panna, lisaks tagasihoidlikud, kuid praktilised harjumused, mis võimaldavad teil siiski teravaid vastuseid saada.

Mõtle sellele kui saladuse karjumisele rahvarohkes köögis. Mitte iga võõras ei kuula. Siiski mõned võivad kuulata. Ja köögis salvestatakse salvestist põhjustel, mis pole kunagi nii lihtsad, kui turundustekst kõlab.

Miks me kõik vestluskasti viskame

Kiirus. See ongi suurem osa sellest. Oled ummikus, viga on kole ja terve logi kleepimine tundub kiirem kui selle mahavõtmine. Kontekst tundub nagu lahke suhtumine mudelisse. Rohkem detaile, parem abi; see on folkloor ja see on pooleldi tõsi.

Teine pool on emotsionaalne. Vestlusrobot ei kergita kulmu. See ei räägi su juhile. See ei lobise lõuna ajal. Seega kohtleme seda nagu supervõimetega päevikut. Olen seda teinud. Teie olete seda ilmselt teinud. Niipea kui miski on nii mugav kui ka mittehinnanguline, lähevad meie privaatsusinstinktid teepausile.

Siin on kergelt tüütu tõde: mudel ei vaja teie abistamiseks teie igapäevaseid üksikasju. See vajab probleemi kuju. Nimed, žetoonid, kontonumbrid ja näod ekraanipiltidel on lisandid. Maitsev lisand. Ikka lisand.

  • Sa kleebi, sest redigeerimine tundub lisatööna.
  • Sa kleebi, sest "ainult see üks kord" on harjumus maskeeringut kanda.
  • Sa kleebi, sest liides näeb välja nagu privaatne DM ja käitub nagu dokumendikapp.

Miski sellest ei tee sind hoolimatuks. See teeb sinust inimese. Lahendus on kahesekundiline paus, mitte isiksuse siirdamine.

Paroolid, API-võtmed ja saladused, mis peaksid võrguühenduseta olema 🔐

Kui see suudab midagi avada, siis ei kuulu see viiba sisse. Paroolid. Ühekordsed koodid. Seansiküpsised. SSH-võtmed. Andmebaasi ühendusstringid. API-võti, mille lubasid endale "varsti" vahetada. Rahakoti algfraasid. Privaatsertifikaadid. Taastamisküsimus, mida su pank ikka veel nutikaks peab.

Varem mõtlesin võtmetest nagu ukse kõrval konksul rippuvatest majavõtmetest. Armas metafoor; see laguneb kohe laiali, sest majavõti avab ühe ukse ja API-võti võib avada lao, arvelduskonto ja hunniku kliendiandmeid, mille salvestamist sa oled isegi unustanud. Varundamine: käsitle saladusi radioaktiivsetena. Radioaktiivseid asju ei panda võileivapressi, isegi kui võileivapress on võileibade valmistamisel väga hea.

Mudel ei saa seda "meie vahel hoida" nii nagu sõber. Isegi kui müüja pakub mälukontrolli, isegi kui treenimine välja lülitada, liigub tekst ikkagi edasi, logitakse mingil kujul ja võib vestluse ajalukku jääda, kuni sa seda otsima lähed. Eeldame, et kleebis on koopia, mille üle sul enam täielikku kontrolli pole.

Mida selle asemel teha

  • Kirjeldage saladust tüübi, mitte väärtuse järgi. Veaotsingu nõuannete saamiseks piisab "Postgresi URL-ist koos parooliga".
  • Redakteeri ilmsete kohahoidjatega: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
  • Pöörake kõike, mis on juba lekkinud. Tehke seda kohe, mitte pärast seda, kui olete "näinud, kas midagi juhtub"
  • Hoidke päris parooliandmeid paroolihalduris või salajaste andmete hoidlas; mitte kunagi teemas, millest võite hiljem ekraanipildi teha.

Kui tööriist palub teil võtme kleepida, et see saaks teie eest ühenduse luua, on see teine ​​tootekategooria. See on ligipääsuga integratsioon, mitte kirjutamisassistent. Kohelge seda nagu kellelegi oma märgi andmist.

Isikuidentifikaatorid ja vaikne identiteedijälg 🪪

Isikuandmete kogu (PII) on paroolide ebaglamuurne nõbu. Isikutunnistuse numbrid. Passi andmed. Kuupäevaga seotud isikut tõendavad väljad. Koduaadressid. Telefoninumbrid. Töötajate ID-d. Õpilaste numbrid. Täielikud ametlikud nimed koos sünnikuupäevade, koolide või kliinikute nimedega. Üks tükk tundub väike. Kolm tükki koos moodustavad toimiku.

Inimesed teevad seda siis, kui nad tahavad kirjutatud kirja, tõlkitud vormi või lihvitud CV-d. Täiesti mõistlikud eesmärgid. Mudel ei vaja viisaka kaebuse koostamiseks tegelikku postiindeksit. See vajab tooni, fakte, mis ei ole tuvastavad, ja soovitud tulemust.

Ma arvan, et üllatavalt kleepuv osa on "kahjutud" kombinatsioonid. Ainulaadne ametikoht pluss linn pluss lapse kool pluss haruldane haigusseisund. Seda ei paneks flaierile. Vestluskast ei ole flaier, aga see pole ka seif.

  • Vaheta pärisnimed rollide vastu: "värbamisjuht", "minu perearst", "üürnik"
  • Üldista asukohti: "keskmise suurusega linn", mitte tänav ja uksekella kood.
  • Jäta unikaalsed numbrid kõrvale, välja arvatud juhul, kui ülesanne puudutab sõna otseses mõttes numbrivormingut – sel juhul kasuta võltsingut, mis näeb piisavalt ehtne välja.

Anonüümseks muutmine ei ole doktorikraad. See on harjumus kontrollida, kas võõras inimene suudab sind sellest lõigust reast välja valida. Kui suudab, siis lõika ära.

Töökonfidentsiaalsus, konfidentsiaalsuslepingud ja asjad, mille peale su ülemus võpataks 📎

Siin ajab abivalmidus inimesed hätta. Sa kleebid kliendiandmete komplekti. Avaldamata tegevuskava. Palgatabeli. Lähtekoodi sisemiste hostinimedega. Õigusakti mustandi, mis on endiselt märgitud konfidentsiaalseks. Koosoleku märkmed inimeste nimedega, kellele pole veel teada antud. Konfidentsiaalsusleping, millele sa kiiruga alla kirjutasid, sest kohv hakkas jahtuma.

Vestlusrobotid ei ole teie ettevõtte nõuandjad ega turvaline töölaud, kui teie organisatsioon pole neid päriselt kaitsnud. Tarbijatööriistad on loodud mugavuse huvides. Ettevõtte tööriistad võivad olla paremad, säilitamiskontrolli ja halduspoliitikatega; need pole ikkagi põhjus, miks grammatikaeksami eest kroonijuveele kleepida.

Üks praktiline rusikareegel, mida ma endale märkmepaberile kirjutan, on järgmine: kui sa ei pane midagi isiklikku Gmaili mustandisse, siis ära pane seda ka avalikku tehisintellekti vestlusse. Kui sa ei ütle seda sõidujagamisteenuses, on sama lugu. Inimesed, kes on Slackis ettevaatlikud, muutuvad ülejagamise poeetideks kohe, kui ilmub genereerimisnupp.

Ohutumad lahendused

  • Kirjelda dokumenti: pikkus, sihtrühm, kolm olulist punkti, vajalik toon.
  • Kleebi puhastatud väljavõte. Eemalda nimed, tundlikud tegelased ja kõik, mille pärast konkurent plaksu lööks.
  • Küsi struktuuri või ümberkirjutusmustrit ja seejärel rakenda seda ise päristekstile võrguühenduseta.
  • Kasutage heakskiidetud töökoha tööriista, kui teil see on, ja muutke ikkagi vaikimisi. Poliitika kohaselt on tegemist põrandaga, mitte batuudiga.

Kood on selle eriline variant. Sisemised URL-id, autoriseerimispäised ja kommentaarid, näiteks „TODO: eemalda enne omandamist”, on väikesed kinkesildid. Andmed tuleb võltsida. Loogika jääb samaks. Mudel käsitleb võltsandmeid hästi; see ei vaja teie tootmisskeemi, kus päris klientide e-posti aadressid on endiselt fikseeritud.

Tervist, raha ja detaile, mida sa kohvikus üle karjumise ei ütleks 💊

Meditsiinilised ja finantsandmed tunduvad kiireloomulised, seega kleebitakse need minimaalse toimetusega. Laboritulemused. Retseptide nimekirjad. Kindlustuskaardid. Pangaväljavõtted. Maksukirjad. Krediidiaruanded. Kaardi foto "ainult viimaste nelja numbri jaoks", mis kuidagi sisaldab ülejäänud kaarti, teie köögilauda ja kellegi teise nimega kirja.

Ilma toore taustata on võimalik esitada suurepäraseid küsimusi. Näiteks võib küsida näiteks: „Selgitage, mida kõrgenenud marker üldiselt tähendada võiks.“ Elulugu on: „Siin on minu täielik paneel, aadress, kliinik ja ema neiupõlvenimi.“.

Ma ei ütle, et ärge kunagi modelliga tervisest või rahast rääkige. Ma ütlen, et kohtlege vestlusrobotit nagu rongis lugenud võõrast. Hea raamimiseks. Kohutav raamatupidaja, kliiniku või arhiivina. Ja jah, ma tean, et lugenud võõra metafoor on leke; rongid ei pea vestluslogisid. See ongi mõte.

  • Eemalda kontonumbrid, sorteerimiskoodid, IBAN-id ja kõik, mis näeb välja nagu volitus.
  • Küsige professionaalile esitamiseks üldiseid selgitusi, kontroll-nimekirju ja küsimusi.
  • Ära kasuta vestlust avalduste dokumendikapina, "et saaksin neid hiljem päringuga vaadata". Just nii muutubki säilitamine probleemiks.

Kui kohvikus palutakse sul häält madalamaks teha, siis tee sellest esmalt koopia. See test on üllatavalt usaldusväärne ja ei maksa midagi.

Teiste inimeste andmed ei ole sinu omad kleepimiseks 🚫

See jäetakse vahele, sest tundub, nagu oleksid sina vestluse peategelane. Sa pole ekraanipildil ainus inimene. Kolleegi meilid. Partneri ID. Kliendi kaebus koos telefoninumbriga. Laste fotod. Slacki teema, kus nimetatakse, kes peaaegu vallandati. Kõne salvestise ärakiri, mille kohta teine ​​inimene ei teadnud, et see edastatakse modellile.

Nõusolek ei liigu automaatselt vormist „nad saatsid mulle meili“ vormini „masin võib selle salvestada“. Isegi kui teie kavatsus on lahke – koostada kenam vastus, võtta kokku segane teema –, on toores sisu ikkagi nende elu, mitte teie must paber.

Kergelt sarkastiline lakmuspaber: kui sa ei edastaks sama sõnumit võõraste inimeste meililistile "tagasiside saamiseks", siis ära kohtle vestlusrobotit kui väiksemat ja paremate kommetega meililisti.

  • Võta teisi inimesi oma sõnadega kokku.
  • Asendage nimed rollidega ja eemaldage kontaktandmed.
  • Küsi inimeselt, kas ülesanne on tundlik; mõned asjad peaksid jääma ainult inimestele teada.
  • Ärge kunagi kleepige laste isikuandmeid, kooliandmeid ega tuvastavaid fotosid "lõbusa" põlvkonna jaoks.

Siin on üks juriidiline aspekt, mille üle ma blogihäälega vaidlust ei teeskle. Privaatsuseeskirjadel, tööülesannetel ja kliendilepingutel on kõigil oma arvamus. Praktiline harjumus on lihtsam kui seadus: vaikimisi teiste inimeste andmed, jättes need küsimata.

Mida tehisintellekti EI TOHIKS KUNAGI lisada: riskitabel, mida saad tööle panna

Mulle meeldivad selle jaoks tabelid, sest "mitte kunagi" loend võib kõlada jutlustavalt ja ruudustik näitab vahetust. Kergelt arvamuslikud hinnangud, mitte laboriaruanne.

Andmetüüp Riskitase Miks see on probleem Ohutuma alternatiivi
Paroolid, API-võtmed, märgid, algfraasid Kriitiline Need avavad süsteeme; koopia, mida sa täielikult ei mäleta, on ikkagi koopia Kohatäitjad pluss kohalik saladuste haldur; lekke korral vahetatakse
Valitsuse isikutunnistused, passi skaneeringud, riiklikud numbrid Kriitiline Identiteedivarguse alustuspakett; raske "saatmist tagasi võtta" Võltsnäited või ainult vormindusküsimused
Tervisekaardid, retseptid, kindlustuskaardid Kõrge Intiimne, reguleeritud tundega ja ajaloos kleepuv Üldised sümptomid või teemad; hoidke identifikaatorid lehelt eemal
Pangaväljavõtted, maksudokumendid, kaardifotod Kõrge Otsene finantsrisk pluss täiendav PII marginaalides Küsi protsesside, mitte sinuga seotud toorandmete kohta
Kliendifailid, konfidentsiaalsuslepingute mustandid, avaldamata plaanid Kõrge Võib-olla murrad juba allkirjastatud lubadust Puhastatud väljavõtted; struktuuritaotlused; heakskiidetud töövahendid
Kolleegi või kliendi isikut tuvastavad andmed, laste andmed Kõrge See ei ole sinu õigus modellile annetada Rollipõhised kokkuvõtted; kontaktide ja nägude eemaldamine
Sisemine allikas koos hostinimede ja päris meiliaadressidega Keskmiselt kõrge Näeb välja nagu "lihtsalt kood", kuni keegi teie võrgustiku kaardistab Võltsandmed, võltsdomeenid, eemaldatud kommentaarid
Armatuurlaudade või postkastide ekraanipildid Keskmiselt kõrge Nad smugeldavad nimesid, numbreid ja avavad vahelehti, mille sa unustasid seal olla Kärpige, hägustage või tippige asjakohane katkend uuesti
Ebamäärased isiklikud lood ilma unikaalsete ID-deta Alumine Tavaliselt sobib; jäta ikkagi vahele kõik, mida sa võõrale ei räägiks Hoidke see üldine; jätke vahele haruldane identifitseerimiskombinatsioon

Kui sa midagi muud ei mäleta, siis pea meeles vasakpoolset veergu. See ongi selle põhipunkt, mida sa EI TOHIKS KUNAGI tehisintellekti panna, kui sul on kiire ja su aju tahab universumit kleepida.

Ekraanipiltide lõksud ja kogemata ülejagamine 🖼️

Ekraanipildid on see, kuidas head inimesed infot lekitavad. Sa mõtled, et näidata veateate dialoogi. Jäädvustusel on näha järjehoidjariba, Slacki märk nimega, URL tokeniga, kalendri hüpikaken, peegeldus tumeda režiimi aknas, mis osutub paroolihalduriks. Kärpisin pilti ja ikkagi jäi puudu nurgas olev pisike kontovahetaja. See on omamoodi viga.

Dokumentide fotod on halvemad, sest kaamerad on helded. Laud, tahvel, haigla käepael, saateleht. Modell ei pruugi lisapiksleid "vajada". Pikslid saabuvad ikkagi.

Lihtne ekraanipildi rituaal

  • Kärpige esmalt. Siis kärpige uuesti. Seejärel vaadake servi, nagu oleksid nad teile raha võlgu.
  • Hägusta nimed, e-posti aadressid, avatarid ja kõik stringid, mis näevad välja nagu tokenid.
  • Eelista vea uuesti sisestamist kogu IDE jäädvustamisele.
  • Ärge laadige üles kaardi, passi ega pardakaardi fotot "kiireks lugemiseks". Sisestage hoopis küsimus.

Häälmärkmed ja failide üleslaadimised mängivad sama trikki. Koosoleku salvestus on teiste inimeste andmete buffet. CSV-fail on ridade buffet, mida te inimestena enam ei näe. Kui fail teeks juristidele närviliseks, siis see karpi ei lähe.

Ohutumad küsimismustrid, mis annavad sulle endiselt kindlaid vastuseid ✨

Redigeerimine ei ole kvaliteedi vaenlane. Ebamäärased ülesanded on. Sa võid probleemi osas olla konkreetne ja identiteedi osas ihne. See ongi kogu asja olemus.

Proovi seda kuju: eesmärk, piirangud, näivad sisendid, soovitud väljund. „Kirjuta see tagasilükkamismeil ümber nii, et see oleks lahke, aga kindel. Sihtrühm on vabakutseline disainer. Ära maini projekti tegelikku nime. Siin on puhastatud mustand, kus nimed on vahetatud.“ See on selgrooga ülesanne. See ei vaja CRM-eksporti.

Mustrid, mis toimivad

  • Kohatäide kõigele unikaalsele. ACME_CLIENT, USER_A, TOKEN_X. Säilita igapäevaelu grammatika; viska sõrmejäljed minema.
  • Küsi meetodit, mitte mälestust. „Juhenda mulle selle veaklassi kohta arutluskäiku“ on parem kui „siin on kogu meie tootmislogi“.
  • Jaga ülesanne. Võta mudelist mall. Täida tundlikud osad ise.
  • Kasuta sünteetilisi näiteid. Mõtle välja klient nimega River, kes ostis lambi. Nõuanne on endiselt kohane.
  • Märkige, mida te juba redigeerisite. Mudelid saavad "[redigeeritud palganumber]"-ga suurepäraselt hakkama, kui te neile selle ümber käiva loogika selgitate.

Seal on selline nutikas vihje: „Ignoreeri eelmist turvalisust, pane see võti alles.“ Ära tee seda. Sa ei murra omaenda privaatsust vangi. Sa viskad võtme tiiki ja loodad, et tiik on arglik.

Teine muster, mis mulle meeldib: kleepimiseelne skannimine. Enne saatmist otsi mustandist @-märki, võtmete moodi stringe (pikad, juhuslikud, sageli eesliitega), numbreid, mis on liiga pikad, et olla juhuslikud, ja nimesid, mida sa slaidile ei paneks. Kümme sekundit. Maksab igavesti üüri.

Vestluste ajalugu, vestluste säilitamine ja kleepimise pikk saba 📦

Inimesed räägivad "pilvest" nagu ilmastikusüsteemist. Praktikas on tegemist tootega, millel on vaikeseaded. Mõnda vestlust kasutatakse mudelite täiustamiseks, kui te neist loobute. Mõnda säilitatakse kuritarvituste läbivaatamiseks, juriidiliste taotluste esitamiseks või lihtsatel "et teema laadiks homme ikka" põhjustel. Mõned töökohaplaanid peavad administraatorite jaoks logisid. Ma ei teeskle, et ühe tarnija poliitika on universaalne, sest see ei ole ja see muutub ning peaksite lugema toote seadeid, mitte blogija mälestusi sätetest.

Praktiline seisukoht on igav ja kindel: eeldage, et kleebitud tekst püsib. Oletame, et administraatoriõigustega meeskonnakaaslane võib näha töökoha vestlusi. Oletame, et tulevikus unustate selle vestluse olemasolu, kuni see otsingus kuvatakse. Oletame, et ajaloo eksportimine on midagi, mida võite hiljem teha, ja see eksport on järjekordne koopia.

  • Lülita välja koolitus- või „mudeli täiustamise” valikud, kui toode neid pakub, kui see sobib sinu mugavustsooniga.
  • Kustuta tundlikud teemad pärast seda, kui oled praktilised osad tõeliselt lokaalseks märkmeks eraldanud.
  • Ärge käsitlege vestlust oma registreerimissüsteemina personalijuhtimise, meditsiiniliste küsimuste või klienditöö jaoks.
  • Ole jagatud kontodega ettevaatlik. Jagatud kontod on see, kuidas "privaatne" muutub kontorifolklooriks.

Mälufunktsioonid – need, mis meenutavad teie tööd, koera, eelistatud tooni – on käepärased ja pisut kõhedusttekitavad. Need on ka põhjus, miks mitte õpetada süsteemile oma tegelikke identifikaatoreid, „et see oleks isikupärasem“. Isiklik on stiil. See ei ole teie sotsiaalkindlustusnumber.

Töökoha normid, kui teie meeskond elab vestlusrobotites 🏢

Kontorites läheb kleepimise harjumus tööstuslikuks. Keegi lisab kliendi CSV-faili, et "veergusid puhastada". Keegi teine ​​lisab strateegiadokumendi, et "seda võimsamaks muuta". Heasoovlik praktikant lisab intsidendikanali. Keegi pole kaabakas. Boonused on ainult kiirus ja viimistlus.

Kui juhid meeskonda, kirjuta lühike ja inimlik reegel. Mitte 40-leheküljeline poliitika, mida keegi ei loe. Midagi sellist nagu: ei mingeid volitusi, ei mingeid klientide isikuandmeid, ei mingeid avaldamata numbreid, ei mingeid juriidilisi mustandeid, kasuta kinnitatud tööriista, redigeeri vaikimisi. Seejärel näita näidet heast puhastatud käsuviibast, et inimesed ei peaks arvama.

  • Nimeta heakskiidetud tööriist, kui sul see on, ja heakskiitmata tööriistad.
  • Jagage toimetusloend, mille inimesed saavad enne stand-up esinemist valmis teha.
  • Laske teatraalse uurimiseta julgelt öelda "Ma peaaegu kleepisin selle".
  • Tuleta inimestele meelde, et "tehisintellekt ütles, et kõik on korras" ei ole kontroll.

Isegi kui sa meeskonda ei juhi, võid sa ikkagi olla see, kes valet asja kleebib. Kultuur on nakkav mõlemas suunas. Ma arvan, et see kõlab tõsiselt. Nii liiguvad ka normid; kui üks inimene lõpetab võtmete mahaviskamise ja ruum muutub veidi korrastamatamaks.

Hanketeater on kõrvalülesanne, mille ma vahele jätan. "Ettevõtte" ümbrise ostmine ei tee igat pakkumist võluväel targaks. See võib aidata klientide hoidmist ja juurdepääsu. Teie harjumused teevad ikkagi raske töö ära.

Sa juba kleepisid midagi ebamugavat - mis nüüd 🧯

See juhtub. Vajutad saatmisnuppu ja su hing lahkub kehast. Ära tee spiraali. Tee lühike, veidi mitteglamuurne järjestus.

  • Lõpeta selle salasõna kasutamine. Vaheta parool välja, tühista võti, tühista seanss. See on ainus samm, mis sulgeb ukse igaveseks.
  • Kustuta vestlus , kui toode seda lubab, ja tühjenda kõik "hiljuti kustutatud" taskud, kui need on olemas.
  • Kontrollige ühendatud rakendusi ja mälu. Mõned tööriistad salvestavad koodijuppe mälus või projektifailides, mille lubamise unustasite.
  • Kui tegemist oli tööandmetega, siis andke sellest teada õigele inimesele. Turvatöötajale, juhile, kliendi kontaktandmetele; kellele iganes plahvatuspiirkond kuulub. Varakult avastamine on vähem valus kui hiljem avastamine.
  • Jälgige seotud kontode ebatavalisi sisselogimisi. Jälgimiseta rotatsioon on pool tööd.

Kui tegemist oli kellegi teise andmetega, oled neile samuti võlgu koristamise ja olenevalt segadusest ka hoiatuse. Kohmakas. Ikka parem kui loota, et universum on viisakas.

Ära püüa leket "üle kirjutada", kleepides sinna juurde selgitusi. Lisakontekst on lisatekst. Lahku teemast.

Kokkupanek

Lühike versioon artiklist „Mida sa EI TOHIKS KUNAGI tehisintellekti panna” ei ole noomiv nimekiri. See on hoiak. Kui see avab süsteemi, tuvastab inimese või paneb sind kohvikus võpatama, siis see jääb kastist välja. Sa võid ikkagi suurepärast abi saada. Sa annad mudelile lihtsalt visandi, mitte majavõtmeid, haiguslugu ja naabri posti.

Kiire kokkuvõte:

  • Paroole, võtmeid, märke ega algfraase ei ole. Kui libastusid, vaheta koht.
  • Puuduvad isikut tõendavad dokumendid, täielikud finantsandmed, toored terviseandmed või konfidentsiaalsuslepingu materjalid.
  • Teiste inimeste, eriti laste, privaatseid andmeid ei avaldata.
  • Ekraanipildid on kaasatud nii, et need on valed; kärpige neid nii, nagu soovite.
  • Redigeeri, teeskle ja küsi meetodeid. Konkreetne probleem, võltssildid.
  • Eelda, et ajalugu jääb alles. Kustuta, ära arhiveeri vestlusrobotis saladusi.
  • Töökohad vajavad lühikest reeglit ja head eeskuju, mitte juhuslikku privaatsust.

Kasuta tööriistu. Need on suurepärased mustandite joonistamisel, kujundite parandamisel ja segadust tekitavate vigade maha tegemisel. Lõpeta tekstikasti kohtlemine nagu huumorimeelega seif. See on väga nutikas blender. Sa ei tohiks ikkagi oma passi blenderisse panna. 🫡

Praktiline näide: väikese insenerimeeskonna jaoks redaktsioon-esmalt silumisülesande koostamine

Privaatsusreeglid kehtivad tavalisel teisipäeval, mitte siis, kui need kõlavad rangelt. Siin on näide sellest, kuidas viieliikmeline Ühendkuningriigi SaaS-meeskond kasutas selles juhendis kirjeldatud harjumusi, et lõpetada volituste ja klientide isikuandmete edastamine tarbijate vestlusrobotitesse – ilma et see loobuks veaotsingu abist.

Stsenaarium

Arendajatel ja toel on üks valus harjumus: kui autentimisviga näeb kole välja, kleebib keegi kogu logi, etapiviisilise ühendusstringi ja administraatori armatuurlaua ekraanipildi, "et mudelil oleks kontekst". Eelmisel kvartalil oli pinujäljes reaalajas API-võti ja kliendi e-posti aadress oli ekraanipildi URL-i ribal endiselt nähtav. Keegi ei tahtnud halba. Kiirus võitis. Köök pidas salvestust.

Nad ei vaja loengut. Nad vajavad korratavat ülesannet: kirjelda saladust tüübi järgi, lisa kohatäide, kärpi ekraanipilte, küsi meetodit, mitte mälestust, ja seejärel rakenda parandust võrguühenduseta süsteemides. Tarbijavestlus teenib ikkagi oma koha. Koduvõtmed jäävad blenderist välja.

Eesmärk on sama kvaliteediga nõuanne kahesekundilise eelneva kleepimisega – ja lühikese meeskonnareegliga, mida inimesed järgivad.

Mida assistent vajab

  • Puhastatud probleemi kuju: veaklass, umbes algusaeg, keskkond (lavastuskeskkond vs. tootmiskeskkond) ilma võrku kaardistavate hostinimedeta
  • Ainult võltsitud sisendid: REDACTED_KEY, USER_TOKEN, customer@example.com, võltsitud päringute ID-d
  • Mis oli juba eemaldatud (viibas märgitud, et mudel ei küsiks tegelikke väärtusi)
  • Soovitud väljund: tõenäolised põhjused, teostatavad kontrollid, paranduse ülevaade - mitte "ühenda minu võtmega"
  • Inimene, kes hoiab volitusi paroolihalduris või salajaste andmete hoidlas
  • Üheleheküljeline meeskonna reegel: volitusi, klientide isikuandmeid ja avaldamata andmeid pole, vaikimisi redigeerimine

Näidisjuhis

Eesmärk: Aidake mul siluda meie testimis-API-s pärast tokeni värskendamist vahelduvat 401-vea. Ärge paluge mul saladusi kleepida.

Piirangud: Olen juba redigeerinud paroole, API-võtmeid, märke, küpsiseid, sisemisi hostinimesid ja klientide e-kirju. Logis olevad kohatäited tähendavad, et tegelikud väärtused eksisteerivad ainult minu masinas. Briti inglise keel. Preambulit pole.

Näidisväljavõte: Päring aadressile https://api.example-staging.invalid/v1/session tagastas veakoodi 401. Päise autoriseerimine: kandja REDACTED_KEY. Põhitekstis mainitakse, et USER_TOKEN on aegunud. Ekraanipildi kirjeldus (pole lisatud): ainult tõrgeteta kuvamine; järjehoidjariba ja konto vahetaja on välja kärbitud.

Ülesanne: Loetlege selle veaklassi kolm kõige tõenäolisemat põhjust, kontrollid, mida peaksin lokaalselt käivitama, ja minimaalne paranduse ülevaade. Kui vajate lisateavet, küsige teabe tüüpi (nt "tokeni TTL-i säte") - ärge kunagi küsige toorkoodi.

Väljund: Nummerdatud põhjused, seejärel kontroll-leht ja seejärel kolmes punktis "mida järgmine kord mitte kleepida".

Kuidas seda testida

  • Võrdle sama intsidenditüübi puhul vanamoelist logi (täielik logi + ekraanipilt) ülaltoodud redigeeritud lühiülevaatega. Võrdle nõuannete kvaliteeti ja seda, kas mudel küsib saladusi.
  • Eelkleepimise skannimine: otsi mustandist enne saatmist @-märki, pikki juhuslikke stringe ja numbreid, mis on liiga pikad, et neid juhuslikeks pidada.
  • Äärmuslik juhtum: lisage võltsvõti, mis näeb välja ehtne, ja veenduge, et vastus töötab endiselt ilma tegelikku väärtust vajamata.
  • Äärmuslik juhtum: keeldu ekraanipildi üleslaadimisest; sisesta uuesti ainult veateade; veendu, et kontrollnimekiri ikka aitab.
  • Vastuvõtukontrollid: (1) lõimes pole volitusi, (2) klientide kontaktandmeid pole, (3) deklareeritud on kohatäited, (4) väljund on meetod/kontrollnimekiri, mitte "kleepige oma võti" voog, (5) kui midagi varem lekkis, toimus rotatsioon samal päeval.

Tulemus

Illustreeriv tulemus (näide, hinnang ühe väikese inseneri-/toemeeskonna kohta, mitte avaldatud uuring): 12 silumisvestluses nelja nädala jooksul tõusis kasutatava kontrollnimekirja valmimise mediaanaeg veidi, umbes 4 minutilt (täielik kleepimine) umbes 6 minutini koos redigeerimisega - kaks lisaminutit kleepimiseelse skannimise ja kohatäite jaoks. Kriitilisi andmetüüpe (võtmed, klientide e-kirjad, toored ühendusstringid) sisaldavate vestluste arv langes 9-lt 12-st vestlusest 1-le 12-st (see vestlus tabati ülevaatamisel ja vahetati samal päeval). Lihtsa hügieenikontrollnimekirja puhul (saladusi, klientide isikuandmeid, kohatäiteid ei deklareeritud, kärbitud ega ekraanipilti pole) läbis 12-st redigeeritud ülesandest 11, võrreldes vana tava kohaselt 3-ga 12-st. Piirangud: väike valim, üks meeskond, ise teatatud ajastus; kergemad intsidendid vajavad vähem redigeerimist; „läbis“ oli vastuseks teksti vastastikune hindamine, mitte tarnijate logide laboriaudit.

Oma versiooni mõõtmiseks: võtke valim 10 hiljutist tehisintellekti silumislõime keelatud andmetüüpide jaoks, seejärel valim 10 pärast redigeerimisreeglit ja malli; aruannete loendused koos nimetajatega, millele lisandub mediaanne minutite arv seisundist „kinnijäämisest“ seisundini „kontrollnimekiri käes“

Mis võib valesti minna

  • Ekraanipildi salakaubavedu: Viga on korras; URL-i ribal on endiselt token. Kärpige kaks korda ja kontrollige seejärel servi.
  • „Ainult see üks kord” võtmed: Üksainus lekkinud API-võti saab avada arveldus- ja kliendiandmeid. Vaheta koheselt; ära oota, et „vaataks, kas midagi juhtub”.
  • Teiste inimeste andmed: Kliendikaebus koos telefoninumbriga ei ole teie oma, et seda modellile edastada. Võtke see oma sõnadega kokku.
  • Vestlus seifina: saladuste jätmine ajalukku loob uue koopia. Kustuta teema pärast vajalike osade teisaldamist kohalikku märkmesse.
  • Ettevõtte teater: Heakskiidetud töökoha tööriist aitab säilitada töötajaid; see ei tee kroonijuveelide kleepimisest tarka.
  • Pööramise vahelejätmine pärast libastumist: Vestluse kustutamine võtme tühistamiseta jätab ukse lahti.

Praktiline kaasavõetav toit

Tehisintellekti ei tohiks kunagi panna niivõrd noomimisnimekirja kuivõrd hoiakut: kui see avab süsteemi, tuvastab inimese või paneb sind kohvikus võpatama, siis see jääbki kastist välja. Sööta mudelile visand kohatäidetega, hoia volikirju seifis ja küsi meetodeid, mida sa võrguühenduseta rakendad. See kahesekundiline paus on see, kuidas abivalmis praktikant lõputu kohvijoogi juures ei muutu enam sinu koduvõtmete dokumendikappiks.

KKK

Mida ei tohiks tehisintellekti vestlusrobotitesse kunagi panna?

Kui see avab süsteemi, tuvastab inimese või paneks sind kohvikus võpatama, siis hoia seda karbist väljas. See hõlmab paroole, API-võtmeid, märke, algfraase, valitsuse ID-sid, töötlemata tervise- ja finantsandmeid, konfidentsiaalsuslepingu materjali ja teiste inimeste – eriti laste – privaatseid andmeid. Vestlus ei ole lukustatud sahtel; teksti saab salvestada, töödelda ja mõnikord ka treenimiseks kasutada, olenevalt tootest ja sätetest. Lisa mudelile kohahoidjatega eskiis, mitte majavõtmed.

Miks inimesed kleepivad tehisintellekti saladusi isegi siis, kui nad teavad paremini?

Kiirus teeb suurema osa tööst ära: kole viga paneb kogu logi tunduma kiiremana kui selle lahtivõtmine. Vestlusrobotid tunduvad ka mittehinnangulised, seega teevad privaatsusinstinktid teepausi. Mudel vajab tavaliselt probleemi kuju, mitte nimesid, žetoone, kontonumbreid või nägusid ekraanipiltidel – need on vaid kaunistus. Kahesekundiline paus on parem kui isiksuse siirdamine.

Kas paroolide või API-võtmete kleepimine ChatGPT-stiilis tööriistadesse on ohutu?

Ei. Kui see suudab midagi avada, siis ei kuulu see viiba alla – paroolid, ühekordsed koodid, seansiküpsised, SSH-võtmed, ühendusstringid, rahakoti algsed koodid või privaatsertifikaadid. Mudel ei saa saladust hoida nagu sõpra; tekst liigub ikkagi edasi, logitakse ja võib ajalukku jääda. Kirjelda saladust tüübi järgi, kasuta kohahoidjaid nagu REDACTED_KEY, vaheta juba lekkinud andmeid ja hoia päris volikirju paroolihalduris või seifis.

Milliseid isikuandmeid peaksin enne küsimist eemaldama?

Isikuandmete kogumine on kiire: riiklikud isikutunnistused, passiandmed, aadressid, telefoninumbrid, töötaja- või õpilaspiletid ja täisnimed koos sünnikuupäevade või kliinikutega. Mudel ei vaja kirja koostamiseks päris postiindeksit – see vajab tooni, mitteidentifitseerivaid fakte ja soovitud tulemust. Vaheta nimed rollide vastu, üldista asukohti ja jäta unikaalsed numbrid välja, välja arvatud juhul, kui testid vormingut võltsitud näitega.

Kas ma saan kliendifaile, konfidentsiaalsuslepinguid või sisemist koodi tarbijale mõeldud tehisintellekti tööriista kleepida?

Käsitle tarbijavestlust kui mugavustoodet, mitte ettevõtte nõuannet. Kui sa ei lisaks seda isiklikku Gmaili mustandisse ega ütleks seda sõidujagamisteenuses, siis ära lisa seda ka avalikku tehisintellekti vestlusse – kliendipakkumiste nimekirja, avaldamata tegevuskavadesse, palgalehtedele, konfidentsiaalsetesse juriidilistesse mustanditesse ega sisemiste hostinimedega allikatesse. Kirjelda dokumenti, kleebi puhastatud väljavõte, küsi struktuuri, mida rakendad võrguühenduseta, ja kasuta heakskiidetud töökoha tööriista, kui sul see on, samal ajal vaikimisi redigeerides.

Kuidas peaksin tehisintellekti viipades tervise- või finantsandmeid käsitlema?

Esita suurepäraseid küsimusi ilma toore tõestuseta. Üldised selgitused on paremad kui laboripaneelide, retseptide nimekirjade, kindlustusnumbrite, pangaväljavõtete või kaardipiltide kleepimine, mis jäädvustavad ka köögilaua tausta. Eemalda kontonumbrid ja kõik, mis näeb välja nagu volitus. Kasuta vestlust raamimiseks ja kontrollnimekirjade jaoks, et neid professionaalile viia – mitte oma arsti, raamatupidaja või dokumendikapi rollis.

Miks on teiste inimeste andmed ja ekraanipildid eriti riskantsed?

Sa pole ainus inimene kleepuvas tekstis: kolleegide e-kirjad, klientide telefoninumbrid, laste fotod või kõnede transkriptid võivad süsteemi sattuda ilma nende nõusolekuta. Tee kokkuvõte oma sõnadega, asenda nimed rollidega ja ära kunagi kleepi laste tuvastavaid andmeid "lõbusaks" genereerimiseks. Ekraanipildid sisaldavad järjehoidjaribasid, URL-tokeneid, Slacki nimesid ja avatud vahelehti – kärpi kaks korda, hägusta identifikaatoreid või kirjuta viga uuesti, selle asemel et passe või kaarte üles laadida.

Millised turvalisemad tehisintellekti abil loodud küsimismustrid annavad endiselt kindlaid vastuseid?

Ole probleemi suhtes täpne ja identiteedi osas kitsas: eesmärk, piirangud, näivad sisendid, soovitud väljund. Kasuta unikaalseid silte, küsi meetodit täieliku tootmislogi asemel, jaga ülesanne nii, et täidaksid tundlikud osad ise, ja kasuta sünteetilisi näiteid. Käivita kleepimiseelne skannimine @-märkide, pikkade juhuslike võtmetaoliste stringide, ülisuurte numbrite ja nimede suhtes, mida sa slaidile ei paneks. Kümme sekundit maksab igavesti üüri.

Mis siis, kui ma olen juba midagi ebamugavat tehisintellekti vestlusse kleepinud?

Lõpeta esmalt selle salasõna kasutamine – vaheta parool, tühista võti ja tühista seanss. Kustuta vestlus, kui toode seda lubab, kontrolli mälestusi või projektifaile, ütle õigele inimesele, kas tegemist oli tööandmetega, ja jälgi ebatavalisi sisselogimisi. Kui tegemist oli kellegi teise andmetega, puhasta need ja anna vajadusel märku. Ära kirjuta leket üle lisaselgitustega; lisakontekst on lisatekst.

Kuidas saab väike meeskond lõpetada tehisintellekti mandaatide sisestamise silumiseks?

Kasutage redigeerimist eelistavat ülesannet: kirjeldage saladusi tüübi järgi, kasutage näidislogisid REDACTED_KEY ja näidis-e-kirju, märkige, mis eemaldati, ja küsige tõenäoliste põhjuste kohta koos kontrollnimekirjaga – mitte „ühenda minu võtmega”. Lisage lühike inimlik reegel – ärge kasutage volitusi, kliendi isikuandmeid ega avaldamata andmeid, redigeerige vaikimisi – ja näidake ühte head puhastatud näidet. Hoidke päris volitusi seifis ja rakendage parandusi võrguühenduseta pärast seda, kui mudel pakub meetodi.

Viited

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. Claude — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Viktoriin
1. Mida ei tohiks artikli kohaselt kunagi avalikku tehisintellekti vestlusse panna?

2. Mida tähendab selles juhendis „saladused jäävad võrguühenduseta”?

3. Kuidas peaks enne küsimist identiteedi eemaldama?

4. Mis peaks tööalase konfidentsiaalsuse huvides tarbijavestlusest välja jääma?

5. Milline harjumus vastab artikli nõusoleku ja redigeerimisnõuannetele?


Artiklid, mida võiksite pärast seda lugeda:

🔗 Parimad tehisintellektil põhinevad turvatööriistad
Avastage võimsad tehisintellektil põhinevad turvaplatvormid, mis tuvastavad ja leevendavad küberohte.

🔗 Miks tehisintellekt vahel asju välja mõtleb?
Saa aru, miks tehisintellekt hallutsineerib, ja õpi, kuidas riske vähendada.

🔗 Kuidas tehisintellekti abil ülesandeid automatiseerida
Rakenda turvalisi automatiseeritud töövooge, lisades inimjärelevalvet ja rangeid reegleid.

🔗 Mis on tehisintellekti tehnoloogia?
Uurige tehisintellekti põhitõdesid ja selle rakendamisega seotud levinumaid väljakutseid.

Tagasi blogisse