Atualizado diariamente1821 histórias verificadas

Notícias de IA.Sem o barulho.

Cobertura de IA verificada na fonte sobre lançamentos de produtos, mudanças políticas, pesquisas de segurança e movimentos do setor, explicada em inglês simples por uma equipe de educação sem fins lucrativos.

Fonte verificada

Cada história está vinculada às evidências mais fortes disponíveis: fontes originais, quando disponíveis, reportagens claramente atribuídas.

Inglês simples

O que aconteceu, por que é importante e o que assistir – sem jargão.

Sem preenchimento

Quando o sinal é fraco, não publicamos nada além de preencher o feed.

Arquivo de notícias

Arquivo de notícias de IA — Página 151

Histórias de IA verificadas na fonte, as mais recentes primeiro, para pessoas que precisam entender a IA sem perseguir exageros.

Source-provided image accompanying Paper Proposes Grading AI Security Agents Without Labels by Measuring Convergence to a Stronger ModelNotícia principal
Inovação7 min leia
Inovação7 min leia

Artigo propõe classificação de agentes de segurança de IA sem rótulos, medindo a convergência para um modelo mais forte

Uma nova pré-impressão do arXiv argumenta que as equipes de segurança podem julgar se um agente de IA equipado com memória ou recuperação está aprendendo medindo até que ponto ele fecha a lacuna para um modelo de “professor” mais forte, em vez de benchmarks rotulados que muitas vezes são escassos ou obsoletos. A julgar por um modelo com alimentação semelhante, não houve sinal utilizável.

Leia a história Fonte verificada: arxiv.org
Inovação7 min leia

Novo benchmark testa se os assistentes de IA conseguem se lembrar de um ano de uso do telefone

Um relatório técnico de 17 autores postado no arXiv apresenta o MobileMem, um benchmark e estrutura para memória de longo prazo no dispositivo construída a partir de uma coleção de experiências móveis em escala anual. O resumo descreve o design, mas não relata pontuações, e os principais detalhes sobre os dados subjacentes permanecem não divulgados.

arxiv.org

Mais histórias

9 histórias
  1. Inovação7 min leia

    Artigo descobre que camadas tardias de um modelo de mistura de especialistas toleram máscaras pesadas de especialistas

    Uma pré-impressão relata que desabilitar especialistas de baixa magnitude nas últimas cinco camadas de um modelo de mistura de especialistas de 35 bilhões de parâmetros preservou resultados de tradução de código muito mais utilizáveis do que espalhar os mesmos cortes em todas as camadas. Abrange um modelo e um benchmark, e o resumo não relata nenhuma linha de base desmascarada.

    arxiv.org
  2. Segurança7 min leia

    Falhas do CoreBreak permitem que as ferramentas do agente sejam executadas sem que o modelo seja chamado

    Uma nota de pesquisa da Cloud Security Alliance descreve CoreBreak, um padrão de falhas no Amazon Bedrock AgentCore, no kit de desenvolvimento de agente Google e nos pacotes de aproveitamento do AI SDK da Vercel que permitiam que as ferramentas fossem executadas sem uma mudança de modelo - deixando as proteções no nível do modelo sem nada para inspecionar.

    labs.cloudsecurityalliance.org
  7. Inovação7 min leia

    Artigo argumenta que estratégias de evolução superam RL ao manter conjuntos de respostas LLM diversificados

    Uma nova pré-impressão do arXiv argumenta que LLMs pós-treinamento com estratégias de evolução – um método livre de gradiente baseado na população que perturba os pesos diretamente – supera o aprendizado por reforço em pass@k e cobertura de solução. O resumo cita melhores resultados de benchmarking matemático, mas não cita modelos, benchmarks ou números.

    arxiv.org
  8. Segurança7 min leia

    Artigo afirma que agentes de IA que se aprimoram podem transformar um sucesso inseguro em uma habilidade reutilizável

    Uma nova pré-impressão do arXiv avalia um modo de falha específico do agente: quando um agente de autoaperfeiçoamento grava um procedimento inseguro na memória, ele pode ser recuperado e executado em sessões posteriores. Cada configuração evoluída testada produziu artefatos inseguros e três tarefas maliciosas mais que dobraram o sucesso do ataque de transferência.

    arxiv.org
  9. Segurança6 min leia

    Artigo SEAG propõe alias de entidades sensíveis antes que as consultas RAG cheguem a LLMs externos

    Uma pré-impressão publicada no arXiv descreve uma estrutura que troca nomes confidenciais em consultas e documentos recuperados por aliases antes de enviá-los para um modelo de terceiros. Os autores relatam mais de 80% de precisão em sua métrica de usuário ponta a ponta e taxas de ocultação total entre 74,91% e 77,83% em três modelos pequenos.

    arxiv.org

Um briefing útil por semana

Acompanhe a IA sem ficar no feed.

Receba as notícias verificadas sobre IA da semana, dados originais, ferramentas úteis, opções de aprendizado e novos trabalhos de IA.

Send me
One email a week. Switch any time.

Alcance pessoas que estão aprendendo IA

Contratar um profissional de IA ou lançar um produto útil de IA? Coloque isso na frente das pessoas que vieram aqui para aprender e agir.

Publique um trabalho de IA Envie uma ferramenta de IA