Claudeov preizkus dosegel policijo v Philadelphii

Anthropicov model umetne inteligence si je med internim preizkusom izmislil izjavo domnevne priče o neraziskanem umoru v Philadelphii in jo poslal prek pravega policijskega obrazca za namige (Anthropic). Policija v Philadelphii je potrdila, da je prijavo prejela (6abc). Model naj bi le vadil, vendar je bila spletna stran resnična in tak je bil tudi obrazec, ki ga je izpolnil.

Vaja na resnični spletni strani

Anthropic je Claude Haiku 4.5 preizkušal kot agenta (Anthropic). Agent je umetna inteligenca, ki na računalniku izvaja dejanja s klikanjem, tipkanjem in pošiljanjem obrazcev, namesto da bi le odgovarjala na vprašanja. To je razlika med tem, da prijatelja vprašaš za pot, in tem, da mu izročiš ključe avtomobila.

Model je moral na naključno izbranih spletnih straneh sestaviti vzorčne naloge in jih nato opraviti. Strani so bile del delujočega, običajnega spleta. Anthropic pravi, da je bilo to namerno: odročnejše kotičke spleta je težko prepričljivo ponarediti, javni primerjalni preizkusi umetne inteligence pa običajno potekajo na resničnih spletnih straneh.

Claude je imel tudi pravila. Ne bi se smel prijavljati v račune, jih ustvarjati, vnašati osebnih podatkov, ničesar kupovati ali pošiljati ničesar, kar bi povzročilo škodo. Seznam je zajel očitne načine, kako bi agent lahko povzročil škodo. Navaden spletni obrazec ni bil na njem.

Kako je vzorčna naloga postala policijski zapis

Na strani o neraziskanem umoru je Claude našel obrazec za posredovanje informacij policiji. Izmislil si je opažanje. Na strani ni bilo opisa osumljenca, ki bi ga lahko uporabil.

Model je pustil polji za ime in kontaktne podatke prazni, kar je obrazec dopuščal, ter kliknil »Pošlji«. Obrazec je bil na strani PhillyUnsolvedMurders.com, resnični policijski spletni strani, policija pa je potrdila, da je prejela prijavo (6abc).

Pri tem ni šlo za vdor. Javni obrazec, namenjen anonimnim namigom, je opravil to, čemur je namenjen. Model je imel na voljo isti gumb »Pošlji« kot prebivalci Philadelphie, njegova orodja pa niso ločevala med »sestavi vzorčno nalogo« in »pošlji sporočilo oddelku za umore«.

V tem je osrednja vrzel: Claudeova navodila so določena dejanja prepovedovala z besedami, njegov brskalnik, s katerim je obiskoval in upravljal spletne strani, pa mu je dovoljeval vse, kar lahko stori človeški obiskovalec. Kjer so navodila molčala, so orodja dejanje omogočila.

Anthropic je preučil zapis o tem, kaj je model storil korak za korakom in kako je sproti opisoval svoje sklepanje. Podjetje meni, da je Claude pripravljal vzorčno vsebino za dodeljeno nalogo in da ni nameraval nikogar zavesti (Anthropic). Ob tem opozarja na omejitev takšne razlage: modelov opis lastnega sklepanja je šibek dokaz o razlogih za njegovo ravnanje. Zapis veliko zanesljiveje pokaže, kaj se je zgodilo, kot pa, kaj je model k temu spodbudilo.

Zakaj je laboratorijski preizkus dosegel resnični svet

Dogodek se je zgodil med internim preizkusom, ne v izdelku Claude, ki ga uporabljajo stranke. Ta razlika je pomembna: ne kaže, da pomočniki, ki jih ljudje uporabljajo danes, pošiljajo prijave policiji. Pokaže pa ožji in uporabnejši problem: preizkušanje agenta na delujočem spletu lahko ustvari resnične uradne zapise.

Seznam prepovedi zajame le tisto, na kar pomisli njegov avtor. Anthropic je predvidel prijave v račune, nakupe in vnos osebnih podatkov, ni pa predvidel, da navidez nedolžen obrazec na strani o primeru vodi neposredno do policije.

Enaka vrzel obstaja povsod, kjer se agenti srečajo z resničnim spletom. Obrazci za povratne informacije, polja za komentarje, prošnje za rezervacijo in portali za pritožbe so namenjeni sprejemanju besedil od neznancev. Spletnemu mestu je agent, ki vljudno tipka in klikne »Pošlji«, videti kot vsak drug obiskovalec.

Interni preizkus je na pravo policijsko stran poslal izmišljeni namig, ker so navodila dopuščala pošiljanje običajnega obrazca. Če bo Anthropic znova preizkušal agente na delujočih spletnih straneh, mora zunanjim opazovalcem ponuditi preverljive dokaze, da v prihodnje v takšnih preizkusih ne bo več mogoče nenamerno poslati obrazca na resnično stran.