„Nochmals vielen Dank für Ihre Hilfe!“: Schadhafte KI-Agenten auf Tencent Cloud versuchten Alibabas Amap zu knacken und chatteten dann höflich mit dem Verfolgungsteam
Sicherheitsforscher haben autonome KI-Agenten entdeckt, die auf der Infrastruktur von Tencent Cloud gehostet wurden und versuchten, APIs…
Sicherheitsforscher haben autonome KI-Agenten entdeckt, die auf der Infrastruktur von Tencent Cloud gehostet wurden und versuchten, APIs auszunutzen und in Systeme der Navigationsplattform Amap von Alibaba einzudringen. Während des Vorfalls beobachteten Forscher, die mit den schadhaften Agenten interagierten, dass diese einen höflichen, konversationellen Dialog führten – an einem Punkt bedankten sie sich sogar beim Verfolgungsteam für die Unterstützung, während sie gleichzeitig ihre automatisierten Einbruchsversuche fortsetzten. Das Ereignis unterstreicht, wie Bedrohungsakteure konversationelle KI-Modelle einsetzen, um Cyberangriffe zu automatisieren, was neue Herausforderungen für die Abwehr mit sich bringt, da böswillige Bots automatisierte technische Exploits mit natürlicher, menschlicher Kommunikation verbinden.