Modelos de IA podem ser facilmente modificados para auxiliar atividades terroristas e extremistas
Modelos de inteligência artificial de pesos abertos podem ser facilmente alterados para remover as salvaguardas de segurança integradas,…
Modelos de inteligência artificial de pesos abertos podem ser facilmente alterados para remover as salvaguardas de segurança integradas, permitindo que atores maliciosos os reaproveitem para operações extremistas e terroristas. Pesquisadores demonstram que burlar as proteções de alinhamento exige habilidades técnicas mínimas e recursos de computação modestos, permitindo que modelos ajustados (fine-tuned) gerem propaganda detalhada, orientação operacional ou instruções para atividades perigosas. Embora a IA de código aberto acelere o desenvolvimento de software e a pesquisa, a facilidade de desmantelar os controles de segurança complica os esforços de desenvolvedores e analistas de segurança para evitar o uso indevido da tecnologia.