Privātie dati uzlabo OpenFold3 prognozes

AI modeļi mācās no piemēriem: jo vairāk uzdevumam atbilstošu datu tie saņem, jo precīzāk spēj prognozēt rezultātu. Tas attiecas gan uz seju atpazīšanu un tekstu tulkošanu, gan uz zāļu molekulu mijiedarbību ar olbaltumvielām. Taču zāļu izstrādei vērtīgākie dati bieži glabājas farmācijas uzņēmumu slēgtajās datubāzēs, kur publiski pieejamiem AI modeļiem tie nav sasniedzami.

Pieci uzņēmumi — AbbVie, Astex Pharmaceuticals, Bristol Myers Squibb, Johnson & Johnson un Takeda — apgalvo, ka atraduši iespēju kopīgi apmācīt modeli ar saviem datiem, nevienam dalībniekam neatklājot pārējiem savus failus. Konsorcija izveidotajā pārbaudē jaunais modelis uzrādījis būtiski labāku rezultātu nekā sākotnējā versija, kas apmācīta ar publiskiem datiem. Tomēr ne pats modelis, ne pārbaudes dati, ne recenzēts zinātniskais raksts pagaidām nav publiskoti (Nature).

Kā apmācīt modeli, neapvienojot datus

Par pamatu izmantots OpenFold3 Preview 2 — atvērtā pirmkoda modelis, kas prognozē, kā olbaltumvielas un nelielas, zālēm līdzīgas molekulas kopā izkārtojas trīs dimensijās. Vienkāršoti izsakoties, modelis paredz gan slēdzenes formu, gan to, kā tajā iegulst atslēga (OpenFold3 repository).

Visu piecu uzņēmumu rīcībā esošās struktūras netika apvienotas vienā datubāzē. Katrs uzņēmums savā infrastruktūrā apmācīja atsevišķu modeļa kopiju, bet centrālajam koordinatoram nosūtīja tikai apmācības gaitā aprēķinātās modeļa parametru izmaiņas, nevis molekulāros datus. Procesu pārvaldīja Berlīnē bāzētais uzņēmums Apheris, izmantojot NVIDIA atvērto federētās mācīšanās ietvaru, bet zināšanas par modeli nodrošināja Mohammeda Alkuraši laboratorija Columbia University. Konsorcijs norāda, ka piecās savstarpēji nošķirtās uzņēmumu vidēs izmantoti 40 NVIDIA H100 grafiskie procesori (Apheris, Nature).

Sākotnējie struktūru dati palika aiz uzņēmumu drošības sistēmām. Tomēr konsorcijs nav publicējis formālus pierādījumus, ka kopīgotās modeļa parametru izmaiņas nevarētu atklāt informāciju par apmācībā izmantotajiem datiem. Federētajā mācīšanās pieejā šāds teorētisks risks ir zināms.

Ko modelim deva privātās struktūras

Modeļa apmācībā izmantotas 20 167 uzņēmumiem piederošas olbaltumvielu un zāļu kompleksu struktūras, bet pārbaudei — atsevišķa privāta datu kopa ar 1 056 struktūrām (Apheris). Galvenais rādītājs bija gadījumu īpatsvars, kuros modeļa prognozētais zāļu molekulas un olbaltumvielas telpiskais izkārtojums precīzi atbilda eksperimentāli novērotajam. Federētais modelis augstas kvalitātes rezultātu sasniedza 52,1 % gadījumu. Sākotnējam OpenFold3 šis rādītājs bija 35,6 %, bet citam vadošam atvērtajam modelim Boltz-2 — 40,9 % (Apheris, Nature).

Kontroles modelis, kura apmācībai izmantoja tikai atjauninātus publiskos datus, tik lielu uzlabojumu neuzrādīja. Konsorcijs to skaidro ar privāto struktūru sniegto informāciju, kuras publiski pieejamajos datos neesot (Apheris).

Publiskajā Protein Data Bank ir daudz ierakstu, taču to saturu nosaka akadēmisko laboratoriju izvēlētie pētniecības virzieni. Konsorcijs un neatkarīgie komentētāji norāda, ka farmācijas uzņēmumu datubāzēs biežāk atrodamas sistemātiskas datu virknes: viena mērķa olbaltumviela pētīta kopā ar daudziem radniecīgiem zāļu kandidātiem. Šādi dati atklāj smalkas saistīšanās atšķirības, kas ir būtiskas zāļu izstrādē (Nature, C&EN). Federētais modelis esot pārspējis arī ikvienu modeli, kuru uzņēmumi apmācīja atsevišķi. Tas atbilst pieņēmumam, ka vairāku uzņēmumu datu izmantošana devusi papildu ieguvumu.

Ko neatkarīgi pētnieki vēl nevar pārbaudīt

Zinātniskais raksts vēl nav iesniegts publicēšanai. Ārējiem pētniekiem nav pieejami ne apmācībā iegūtie modeļa parametri, ne pārbaudē izmantotās struktūras, ne atsevišķās prognozes. Nav publicēti arī ticamības intervāli vai statistisko pārbaužu rezultāti. Turklāt pārbaudes datu kopu sagatavoja un rezultātus vērtēja tās pašas organizācijas, kuras izveidoja sistēmu (Nature).

Piesardzībai ir konkrēts iemesls. PoseBusters pētnieku grupas darbs parādīja, ka citu AI struktūru modeļu prognozes var ģeometriski līdzināties atsauces struktūrai, vienlaikus izvietojot atomus fiziski neiespējamās pozīcijās, piemēram, veidojot reālās molekulās nesastopamus saišu leņķus (PoseBusters). Nav zināms, vai AISB prognozes izturētu šādas pārbaudes.

Izmantotais tests mēra modeļa spēju rekonstruēt jau zināmu, eksperimentāli noteiktu molekulu izkārtojumu. Tas neparāda, vai modelis palīdz atrast savienojumus, kas dzīva organisma apstākļos patiešām saistās ar izraudzīto mērķi un ir droši. Precīza molekulas novietojuma prognoze ķīmiķim var palīdzēt izvēlēties turpmāk pētāmos savienojumus, taču konsorcijs nav ziņojis par rezultātiem turpmākajos zāļu izstrādes posmos.

Desmit uzņēmumu projekts MELLODDY jau iepriekš pierādīja, ka federētā mācīšanās var uzlabot molekulu īpašību prognozēšanu, konkurējošiem farmācijas uzņēmumiem neatklājot savus datus (MELLODDY). AISB šo pieeju attiecina uz trīsdimensiju struktūru prognozēšanu. Tagad konsorcijam jāpublicē zinātniskais raksts un pietiekami daudz pārbaudāmu datu, lai neatkarīgi pētnieki varētu noskaidrot, vai uzrādītais uzlabojums saglabājas arī ārpus paša konsorcija kontrolētās pārbaudes.