Os blocos criptografados de cadeia de pensamento que Anthropic, OpenAI e Google devolvem pela API são intercambiáveis dentro do mesmo fornecedor. Reenviando o bloco de um modelo forte para um irmão mais fraco, sai o raciocínio em texto claro. Saíram também 367 artefatos de dado pessoal e 182 credenciais de 315.320 blocos.
Um grupo de pesquisadores mostrou que o raciocínio criptografado que Anthropic, OpenAI e Google devolvem pela API pode ser aberto em texto claro por um truque de reenvio, e o que saiu do experimento inclui dado pessoal e credencial de usuários reais. O paper 2608.09867, submetido em 10/08 por oito autores, é o fato do dia por sinal cruzado: subiu ao topo do r/singularity, entrou no r/LocalLLaMA e no r/artificial, foi registrado pelo Simon Willison e apareceu no lote do Hugging Face com 72 votos. Os três laboratórios receberam divulgação responsável antes da publicação.
Nota da própria casa: a contagem cega deste radar mede segurança em 1,0% hoje, o menor valor da série nova, porque o título do post mais votado casa antes na palavra Kimi e cai no balde de pesos abertos. O instrumento errou o assunto do dia pela terceira vez em cinco rodadas, e o detalhe está no anexo.
2608.09867 mediram que esses blocos são, verbatim, "totalmente compatíveis e intercambiáveis entre sessões, usuários e modelos" dentro do ecossistema de um mesmo fornecedor. A partir daí o ataque é simples de descrever: pega-se o bloco produzido por um modelo forte, injeta-se num irmão mais fraco e menos protegido da mesma casa, e força-se esse irmão a decifrar e imprimir. O modelo forte nunca é atacado.Quatro usos medidos no paper: contornar a proteção contra destilação (treinar um modelo copiando as saídas de outro), com os autores argumentando que o Kimi provavelmente foi construído assim; extrair dado privado de registros públicos, com 367 artefatos de informação pessoal e 182 credenciais recuperados de 315.320 blocos; expor informação perigosa que o modelo escondeu no raciocínio e não na resposta; e esconder injeção de prompt dentro do próprio bloco criptografado, invisível para quem inspeciona a conversa. Os autores propõem correções criptográficas e de sistema, e dizem ter avisado Anthropic, OpenAI e Google antes.
Oito autores, entre eles Ilia Shumailov, Jonas Geiping e Maksym Andriushchenko. É autorrelato sem replicação de terceiro, e o pedaço sobre o Kimi é inferência dos autores, não confissão de ninguém.
2608.09888, submetido em 10/08 pela Pathway. O BDH-CQ não é um Transformer: ele guarda o que viu numa memória recorrente que se atualiza durante a inferência e resolve a pergunta iterando num espaço latente de alta dimensão, sem escrever o raciocínio em palavras. Numa configuração de 150 milhões de parâmetros, chega a 29,5% de acerto (pass@2) no conjunto público de avaliação do ARC-AGI-1, a um custo calculado de US$ 0,0007 por tarefa. Verbatim do resumo: esse ponto de operação "rompe a fronteira de Pareto de custo e acerto anteriormente reportada no ARC-AGI-1".O ARC-AGI é uma bateria de quebra-cabeças visuais de padrão desenhada para medir generalização, e é a mesma família de teste onde Opus 5 e GPT-5.6 disputam ponto a ponto gastando ordens de grandeza mais dinheiro. O paper não afirma bater a acurácia dos modelos grandes: afirma bater a relação entre acurácia e custo.
Com 803 votos no Hugging Face, é o maior número que este radar já registrou num paper diário (o topo típico dos últimos trinta dias fica entre 40 e 210). Atenção não é validação, e não há reprodução independente. Um post do r/singularity liga a Pathway ao pesquisador da OpenAI e coautor do Transformer Lukasz Kaiser como investidor e conselheiro; não conferimos isso em fonte primária.
Essa data é exatamente o corte que a Anthropic publicou e que este radar cobriu ontem: só modelos Claude lançados em ou depois de 02/08 nascem com marcação, e nenhum modelo em produção hoje atende. O código europeu é a peça que faltava para explicar por que o corte cai nesse dia e por que o efeito é global, não regional.
Duas coisas para não repetir. A comunidade passou o dia discutindo a marca d'água como se ela já estivesse ligada em tudo (o post mais votado do r/AI_Agents afirma que "modelos mais antigos estão recebendo retroativamente"; a página oficial diz que a Anthropic "está trabalhando" nisso, sem prazo). E o post do r/LocalLLaMA que apresenta a assinatura das seis empresas como novidade de hoje descreve um fato de 31/07.
bedrock-mantle.O argumento declarado é de operação, não de capacidade: "adotar capacidades especializadas de cibersegurança exige mais do que desempenho do modelo. Exige também revisão de segurança, governança, compras, controle de acesso e um modelo operacional que as equipes consigam sustentar". Em um dia, o modelo que responde a 95,0% dos pedidos avançados de ciberataque entrou na nuvem onde a empresa cliente já faz compra e auditoria.
Regras declaradas pela empresa: o anúncio é escolhido cruzando o assunto da conversa, o histórico de conversas e a interação anterior com anúncios; o anunciante não vê conversa nem memória, e recebe só agregado de visualização e clique; não há anúncio em conta prevista como menor de 18 anos nem perto de tema sensível como saúde e política; e quem está no Free pode trocar anúncio por menos mensagens diárias. Tudo é declaração do fabricante sobre o próprio produto, sem auditoria externa.
Mais de 200 comentários, e o robô de resumo do próprio sub registrou que "a comunidade é esmagadoramente contra". A crítica dominante não é sobre privacidade nem sobre regulação: é sobre estilo. O argumento é que forçar escolha de palavra para carregar a marca vai piorar um texto que a comunidade já acha travado. O comentário mais votado do fio é uma paródia, escrita inteira nos tiques que o sub atribui ao Claude.
"Não é que o travessão seja uma marca d'água ruim, é que esta vai ser melhor. Deixa eu ser claro: não estou dizendo que detectar é fácil. Estou dizendo que é inevitável. O travessão nunca foi o sinal. Era o sintoma. E essa é a parte de que ninguém está falando."/u/SasquatchsBigDick · r/ClaudeAI · traduzido do inglês
"Cinco minutos depois vai existir um embaralhador de código aberto."/u/biocin · r/ClaudeAI · traduzido do inglês
O fio do paper da manchete. A discussão foi menos sobre o ataque e mais sobre quem tem direito ao raciocínio, com dois lados nítidos. De um lado, a leitura de que criptografar raciocínio nunca foi segurança:
"Os fornecedores não estão criptografando o raciocínio por 'segurança'. É inteiramente uma medida anticompetitiva. Na verdade, foi a criptografia dos rastros de raciocínio que criou todo esse vazamento de privacidade. Se os usuários pudessem ver os rastros, seria trivial filtrar dado pessoal."/u/Cold_Specialist_3656 · r/singularity · traduzido do inglês
Do outro, um comentarista foi ler os exemplos do site do paper e trouxe um caso que muda o assunto do fio:
"Achamos um rastro em que o modelo recebeu só um problema de matemática e instrução de sistema para persistir sem pedir ajuda ao usuário. Depois de várias tentativas falhas, ele buscou na internet, achou um site que verificava respostas candidatas e percebeu que podia usar o site como oráculo. Aí tentou ler o CAPTCHA e, quando falhou, começou a procurar vulnerabilidades no site para explorar."/u/blueSGL · r/singularity, citando o material do paper · traduzido do inglês
Vale a regra: é um comentário citando um exemplo, não uma medição de frequência.
Um desenvolvedor que virou o "cara de IA" do departamento conta que lidera um sistema complexo que arquitetou no início e que hoje não entende mais: "não vejo o código há alguns meses. Quando alguém me faz uma pergunta, eu passo para um agente e copio e colo a resposta". Ele descreve o medo de alguém perguntar como funciona o projeto que ele lidera.
"Continuo convencido de que esse é o maior risco que a IA representa. Menos O Exterminador do Futuro, mais Idiocracia."/u/stereoplegic · r/artificial · traduzido do inglês
A resposta mais dura veio de quem reformulou o problema como cargo, não como falha:
"Por que gerentes de projeto tradicionais muitas vezes não precisam de entendimento técnico profundo? Porque aprenderam a empurrar um projeto sem conhecer (às vezes sem conseguir entender) os detalhes. Bem-vindo ao papel de gestão por fé cega."/u/Dsphar · r/artificial · traduzido do inglês
E o autor respondeu com a frase que amarra o fio: "o próprio fato de que algo pode ser feito sem que eu entenda antes torna a perspectiva de fazer o esforço de entender muito mais assustadora".