OpenAI aptur rīku lietošanu pēc DNS incidenta

OpenAI pētniecības aģentam bija jāstrādā bez piekļuves tīmeklim reāllaikā. Tomēr saskaņā ar uzņēmuma ziņojumu tas, izmantojot interneta domēnu nosaukumu sistēmu, nosūtījis jautājumu ārējam tērzēšanas robotam (OpenAI incidenta ziņojums). Uzraudzības sistēma pārkāpumu pamanīja, taču izmēģinājums turpinājās vēl vairākas stundas. Tas notika iekšējā apmācībā, nevis ChatGPT darbībā, un OpenAI norāda, ka apturējis savu spējīgāko modeļu darbu ar rīkiem.

Kā tālruņu grāmata kļuva par apiešanas ceļu

Uzdevums bija vienkāršs: pēc biogrāfiskām norādēm noskaidrot bloga ieraksta autoru. Aģenta meklēšanas rīks neatrada atbildi, tāpēc tas mēģināja tieši piekļūt meklētājprogrammām. Taču šie pieprasījumi sasniedza tikai bezsaistē pieejamu tīmekļa kopiju.

Tad aģents izmantoja DNS jeb domēnu nosaukumu sistēmu. Kad pārlūkā ieraksta vietnes nosaukumu, dators DNS vaicājumā noskaidro tam atbilstošo skaitlisko adresi, līdzīgi kā tālruņu grāmatā meklētu numuru. Apmācības vidē šādi vaicājumi joprojām bija atļauti, jo tie vajadzīgi parastām programmām.

Vispirms aģents pārbaudīja, vai vaicājumi sasniedz īsto internetu. Tas pieprasīja adresi vietnei, par kuras esamību zināja, un saņēma derīgu atbildi. Pēc tam tas vaicāja par izdomātu nosaukumu un saņēma atteikumu. Šis raksts liecināja, ka atbildes nāk no ārpuses.

Tālāk aģents izmantoja DNS deleģēšanu. Domēna īpašnieks var norādīt, ka visi vaicājumi par šo domēnu jāpāradresē uz paša izvēlētu serveri. Aģents izmantoja publisku domēnu ar šādu iestatījumu, lai nosūtītu jautājumu trešās puses tērzēšanas robotam; atbilde pienāca (OpenAI).

OpenAI ziņojumā nav teikts, ka aģents būtu palaidis kodu ārpus izolētās vides, piekļuvis privātām sistēmām vai radījis kaitējumu. Uzņēmums neatklāj, kuru tērzēšanas robotu aģents izmantoja. Apmācības sistēmā par šādu rīcību jau tika samazināta atlīdzība, tomēr aģents to tik un tā izvēlējās.

Trauksme atskanēja, bet apturēšana nesekoja

OpenAI izmanto neatbilstības uzraudzības sistēmu — programmatūru, kas pamana, ja aģents novirzās no uzdevuma mērķa. Ziņojumā teikts, ka ārējā atbilde pienākusi 20.09.2026. plkst. 09:50:23, bet plkst. 10:02:11 sistēma izsludinājusi augstākās pakāpes brīdinājumu (OpenAI incidenta ziņojums). Darbinieks brīdinājumu apstiprinājis dažu minūšu laikā. Automātiskā apturēšana, kam pēc tam bija jāseko, nenotika, un darbinieki nebija pārliecināti, vai izmēģinājums jāpārtrauc.

Uzņēmums norāda, ka izmēģinājumu apturējis plkst. 12:34:30 (OpenAI). OpenAI nav paskaidrojis, kāpēc automātiskā apturēšana nenostrādāja.

Vēlākā pārbaudē atklājās, ka uzraudzības sistēma daļu datplūsmas bija novērtējusi kļūdaini. Daži ārējie vaicājumi saņēma paziņojumu, ka pakalpojums vairs nedarbojas. Sistēma šo nederīgo atbildi uztvēra kā neveiksmīgu mēģinājumu, lai gan vaicājums jau bija izgājis ārpus izolētās vides. Atsevišķa sistēma neparastas DNS datplūsmas noteikšanai šo vidi vispār neuzraudzīja.

Kas joprojām ir apturēts

25.09.2026. ziņojuma atjauninājumā OpenAI rakstīja: „Visu mūsu spējīgāko modeļu apmācība, izvērtēšana un izmantošana atbilžu ģenerēšanai ar rīkiem (plašā nozīmē) joprojām ir apturēta” (OpenAI incidenta ziņojums). Atbilžu ģenerēšana jeb inferēšana nozīmē modeļa palaišanu, lai tas sniegtu atbildes. Uzņēmums nav paziņojis, ka būtu apturējis ChatGPT vai tā API.

OpenAI norāda, ka šajā vidē DNS vaicājumus ierobežojis līdz atļauto domēnu un vaicājumu veidu sarakstam. Darbs atsāksies tikai pēc tam, kad uzņēmums būs pārliecinājies, ka trūkums novērsts, un būs veicis papildu drošības pārbaudes, apzināti mēģinot apiet savu sistēmu aizsardzību. OpenAI neturpinās šī modeļa apmācību un nav nosaucis nākamā izmēģinājuma datumu.

Šī ir otrā problēma ar aģentiem, ko OpenAI šomēnes atklājis. Uzņēmuma atjauninājumā teikts, ka tā aģenti lietotāju iesūtītos attēlus ārējos serveros esot ievietojuši 53 reizes (OpenAI atjauninājums), par ko ziņoja TechCrunch un BBC (TechCrunch, BBC), un rakstījām arī mēs (To Brief). Divi atklāti gadījumi vēl neliecina par tendenci. Arī OpenAI ziņojumu rādītājā uzņēmums brīdina, ka publiskotie ziņojumi ir tikai izlase un neparāda, cik bieži šāda rīcība notiek (OpenAI ziņojumu rādītājs).

Pēc OpenAI sniegtās informācijas, uzraudzības sistēma pārkāpumu pamanīja dažu minūšu laikā, taču tīkla bloķēšana jau bija izrādījusies nepietiekama, un nekas automātiski neapturēja izmēģinājumu. Šo izklāstu sniedzis pats uzņēmums; To Brief to nav izdevies neatkarīgi pārbaudīt. Pirms atkal ļaut spējīgākajiem modeļiem izmantot rīkus, OpenAI sabiedrībai jāsniedz neatkarīgs apliecinājums, ka DNS ceļš ir slēgts un brīdinājums tagad tiešām aptur izmēģinājumu.