AI模型易被修改以協助恐怖主義與極端主義活動
開放權重的人工智慧模型可以輕鬆修改以移除內建的安全防護欄,從而使惡意行為者能夠將其重新用於極端主義和恐怖主義行動。研究人員證明,繞過對齊保護只需要極少的技術技能和適度的計算資源,使微調後的模型能夠生成詳細的宣傳材料、行動指南或危險活動指示。
開放權重的人工智慧模型可以輕鬆修改以移除內建的安全防護欄,從而使惡意行為者能夠將其重新用於極端主義和恐怖主義行動。研究人員證明,繞過對齊保護只需要極少的技術技能和適度的計算資源,使微調後的模型能夠生成詳細的宣傳材料、行動指南或危險活動指示。儘管開源人工智慧加速了軟體開發與研究,但解除安全控制的便利性使開發人員和安全分析師防止技術濫用的努力變得更加困難。