ChatGPT sob supervisão máxima da UE

Quando Bruxelas inclui ChatGPT, Reddit e Roblox no regime mais apertado das regras europeias de segurança digital, a leitura apressada é vê-lo como uma acusação. Não é isso que aconteceu. A Comissão Europeia colocou os três serviços na categoria reservada às plataformas cuja dimensão faz com que as suas opções de desenho já não afectem apenas os utilizadores directos, mas o espaço público no seu conjunto. A lógica aproxima-se menos de uma multa por infracção e mais da passagem de um edifício de manutenção declarada pelo proprietário para inspecções obrigatórias.

A regra da dimensão

O Regulamento dos Serviços Digitais traça uma linha clara: qualquer serviço em linha com mais de 45 milhões de utilizadores mensais na União Europeia entra no nível máximo de supervisão (Comissão Europeia). O número corresponde, grosso modo, a um décimo da população da UE, o limiar a partir do qual Bruxelas entende que a arquitectura de uma plataforma pode produzir efeitos à escala europeia (síntese da Comissão sobre o DSA).

Os três serviços ultrapassaram esse patamar. O ChatGPT declarou cerca de 159 milhões de utilizadores na UE para a sua função de pesquisa; o Reddit, 57,2 milhões; e o Roblox, cerca de 47 milhões (Euronews, Yahoo News). Com estas designações, o total de serviços abrangidos por este regime sobe para 28 (IEU Monitoring).

O Reddit aloja conteúdos gerados por utilizadores. O Roblox aloja jogos criados pelos próprios utilizadores. Ambos encaixam no tipo de plataforma para o qual o Regulamento dos Serviços Digitais foi desenhado. O caso do ChatGPT é mais revelador. O serviço sintetiza informação recolhida na Internet numa resposta conversacional única, e a Comissão classificou-o como motor de pesquisa porque, quando recebe uma pergunta, recupera e ordena informação externa (Straits Times). Um motor de pesquisa influencia aquilo que os utilizadores encontram. Um chatbot que pesquisa na Web vai mais longe: condensa várias fontes numa só resposta, tornando menos visível por que razão o utilizador recebeu aquela resposta e não outra.

É a primeira vez que um chatbot de inteligência artificial de uso generalizado entra neste nível de supervisão. O Regulamento da Inteligência Artificial, uma lei distinta, impõe deveres de transparência aos chatbots. A designação ao abrigo do Regulamento dos Serviços Digitais tem outro alcance: trata o serviço como uma infra-estrutura de informação suficientemente grande para gerar danos através do seu desenho sistémico, e não apenas por causa de uma publicação ou de uma resposta isolada (Les Echos, ZDNet France).

Exame anual, auditor externo, livros abertos

Os três serviços dispõem de quatro meses, a contar da notificação, para cumprir as novas obrigações. Na prática, deixam de poder limitar-se a dizer «confiem em nós, moderamos conteúdos» e passam a ter de demonstrar uma governação verificável e auditável (Regulamento 2022/2065). Há três mudanças principais.

A primeira é um exame anual de riscos. As empresas têm de identificar os riscos criados pelo seu desenho, pelos seus algoritmos e pelos padrões de utilização, incluindo conteúdos ilegais, danos para menores, efeitos no debate público e riscos de segurança (explicador da EDAA). A segunda é a entrada de um auditor externo: cabe a avaliadores independentes, e não às próprias empresas, verificar se as salvaguardas funcionam (texto DSA da Prighter). A terceira é a abertura de dados a investigadores. A Comissão e académicos credenciados podem pedir explicações sobre a forma como os algoritmos ordenam e recomendam conteúdos, ao abrigo de um quadro definido por um regulamento delegado de 2025.

Nada disto significa que um funcionário europeu passe a interpor-se entre uma pergunta feita ao ChatGPT e a respectiva resposta, ou a aprovar publicações individuais no Reddit. O alvo é o sistema: a lógica de ordenação, a máquina de moderação, a arquitectura publicitária, o desenho de protecção de menores. Quando encontra infracções, a Comissão usa instrumentos de aplicação distintos, como já fez com a multa de 120 milhões de euros aplicada ao X e com conclusões preliminares contra a Meta por desenho aditivo. As coimas podem chegar a 6% do volume de negócios anual mundial (Brussels Times).

Por que razão as famílias devem estar atentas

Para as famílias, o caso mais palpável é o Roblox. Cerca de 70% dos seus utilizadores têm menos de 18 anos (Biz Chosun). As orientações do Regulamento dos Serviços Digitais sobre menores proíbem publicidade direccionada com base em perfis de utilizador quando o serviço sabe que está perante uma criança. A entrada no nível máximo obriga o Roblox a avaliar se os seus jogos criados por utilizadores, os sistemas de conversa e os algoritmos de recomendação geram riscos para menores em larga escala (orientações da Comissão sobre menores). A empresa já introduziu verificações de idade por reconhecimento facial, restrições de conversa por faixas etárias e moderação com inteligência artificial. A questão é saber se essas ferramentas funcionam em conjunto, à escala da plataforma, e a Comissão passará agora a ter meios para o avaliar.

A vice-presidente executiva Henna Virkkunen apresentou as designações como uma forma de sujeitar estes serviços a um escrutínio proporcional ao seu alcance (UPI). Os poderes de aplicação por trás dessa formulação são concretos. Até ao final de Dezembro, as empresas deverão conseguir apresentar avaliações de risco concluídas, mecanismos de auditoria e processos de acesso para investigadores. O essencial já não é a designação em si, mas saber se a máquina de auditoria da Comissão será suficientemente exigente para distinguir responsabilização real de documentação de conformidade bem polida.