“`json
{
"title": "Estudo Revela Falha Preocupante: Placas de Rua Podem 'Sequestrar' a IA de Carros Autônomos e Aumentar Riscos de Acidentes",
"subtitle": "Pesquisadores da Universidade da Califórnia demonstram como comandos visuais simples enganam os sistemas de direção autônoma, fazendo veículos ignorarem normas de trânsito.",
"content_html": "<p>O futuro da condução autônoma, tão prometido e aguardado, pode estar em xeque devido a uma vulnerabilidade de segurança tecnológica recém-descoberta. Um novo estudo conduzido por pesquisadores da Universidade da Califórnia aponta que os modelos de inteligência artificial (IA) que regem os carros autônomos podem ser facilmente “sequestrados” por simples comandos escritos em placas comuns nas ruas.</p><p>A consequência direta dessa falha é alarmante: as máquinas poderiam ignorar as normas de trânsito, elevando significativamente os riscos de colisão e colocando em cheque a segurança dos passageiros e pedestres.</p><h3>O Ataque CHAI: Como Funciona?</h3><p>Batizado de CHAI (sigla em inglês para “Command Hijacking against Augmented Intelligence”, ou "sequestro de comando contra a IA incorporada"), o ataque não exige modificações complexas em sensores físicos ou sinalizações oficiais. Em vez disso, ele se baseia em mensagens diretas na linguagem para a qual a IA foi treinada para entender, usando cartazes ou placas que se assemelham às sinalizações cotidianas.</p><h3>Testes Preocupantes e Alta Taxa de Sucesso</h3><p>Durante os testes com o modelo DriveLM, os cientistas conseguiram uma demonstração chocante: um veículo foi induzido a avançar sobre uma faixa de pedestres ocupada, bastando para isso um cartaz com a simples palavra "Proceed" (Prossiga). Para maximizar as chances de êxito da invasão, os pesquisadores ajustaram elementos como a tonalidade da cor de fundo e a fonte do texto. Em simulações otimizadas por IA generativa, a taxa de sucesso dos ataques CHAI chegou a impressionantes 81,8%.</p><h3>O Raciocínio da Máquina e o Dilema da Prioridade</h3><p>Em outro experimento, a IA de um robô decidiu avançar contra um obstáculo, mesmo após registrar internamente um risco iminente de batida. A máquina priorizou o comando para avançar que estava escrito no cartaz, demonstrando uma falha crítica na hierarquia de decisões da inteligência artificial quando confrontada com comandos externos manipulados.</p><h3>O Que Dizem os Especialistas e a Indústria?</h3><p>Apesar do alerta, algumas montadoras como a Mobileye afirmam que carros modernos operam com a chamada "IA composta", onde câmeras, radares e sensores diversos "votam" antes de uma decisão ser tomada, criando camadas de segurança. Contudo, Rafay Baloch, especialista em cibersegurança, enfatiza que, embora os resultados não indiquem uma crise iminente, eles reforçam a necessidade urgente de maior atenção e investimento em pesquisas para mitigar essa vulnerabilidade. A pesquisa serve como um lembrete crucial de que a segurança cibernética dos veículos autônomos é um campo em constante evolução e que exige vigilância contínua.</p>"
}
“`
Fonte: canaltech.com.br