KI-Nachrichten

Führende KI-Organisationen und Persönlichkeiten, darunter OpenAI, Anthropic und Elon Musk, haben verschiedene Konzepte skizziert, um den erwarteten enormen Wohlstand durch künstliche allgemeine Intelligenz umzuverteilen. Die „Windfall Clause“ von OpenAI sieht vor, Gewinne oberhalb bestimmter Schwellenwerte dem Gemeinwohl zuzuführen, während Anthropics „Long-Term Benefit Trust“ eine Governance-Struktur nutzt, die das gesellschaftliche Wohl gegenüber traditionellen Aktionärsrenditen priorisiert. In ähnlicher Weise stellt sich Elon Musk vor, dass KI-gesteuerte Automatisierung ein „Universal High Income“ (universelles hohes Einkommen) ermöglicht. Diese Mechanismen zur Wohlstandsverteilung hängen jedoch vom Erreichen ehrgeiziger technologischer Meilensteine ab und bleiben interne Unternehmensversprechen statt verbindlicher öffentlicher Politik. Dies wirft die Frage auf, ob letztlich einfache Bürger oder die bisherigen Aktionäre profitieren werden.

Version 1.107.0 des LiteLLM-Python-Pakets auf PyPI wurde kompromittiert und enthält einen Credential-Stealer sowie eine Backdoor. Nach der Installation scannt die schädliche Payload das Host-System automatisch nach sensiblen Daten, darunter API-Schlüssel, Umgebungsvariablen und Cloud-Anmeldeinformationen, bevor sie diese an einen vom Angreifer kontrollierten Endpunkt exfiltriert. Da LiteLLM weit verbreitet als Abstraktionsschicht und Proxy für den Zugriff auf mehrere APIs von großen Sprachmodellen eingesetzt wird, birgt dieser Supply-Chain-Angriff erhebliche Risiken für KI-Entwicklungsumgebungen. Entwickler, die die betroffene Version verwenden, sollten das Paket umgehend entfernen, die offengelegten Anmeldeinformationen erneuern und auf ein sicheres Release aktualisieren.

General Motors richtet seine Entwicklungsstrategie auf künstliche Intelligenz und fortschrittliche Onboard-Rechenplattformen aus, um mit den sich schnell entwickelnden chinesischen Elektrofahrzeugherstellern Schritt zu halten. Führungskräften von GM zufolge haben sich chinesische Konkurrenten einen Vorteil verschafft, indem sie Entwicklungszyklen beschleunigt und reichhaltige digitale Funktionen zu geringeren Kosten integriert haben. Um dem entgegenzuwirken, entwickelt GM eine zentralisierte, softwaredefinierte Fahrzeugarchitektur und setzt KI in den Bereichen Fahrzeugdesign, Testen und Fertigung ein. Durch die Erweiterung der flottenweiten Rechenkapazität strebt GM an, Entwicklungszeiten zu verkürzen, Software-Updates zu beschleunigen und fortschrittlichere Fahrassistenz- sowie Innenraumerlebnisse zu liefern.

In einer in Illinois eingereichten Sammelklage wird behauptet, dass die autonomen Gehweg-Lieferroboter von Serve Robotics die Gesichter von Passanten scannen und biometrische Daten erfassen, ohne die erforderliche Einwilligung einzuholen. Der Beschwerde zufolge nutzen die KI-gesteuerten Roboter Kameras und Sensoren zur Navigation und Auftragsverifizierung. Dabei erfassen sie die Gesichtsgeometrie von Passanten und Kunden ohne vorherige schriftliche Offenlegung oder einen öffentlich zugänglichen Aufbewahrungsplan, was gegen das Gesetz zum Schutz biometrischer Informationen in Illinois (BIPA) verstößt. Der Rechtsstreit unterstreicht die wachsenden Datenschutzbedenken hinsichtlich der Erfassung und des Umgangs mit personenbezogenen Identifikationsdaten durch autonome Geräte im öffentlichen Raum.

OpenAI behauptet, dass sein fortschrittliches KI-Modell dabei geholfen hat, kritische Sicherheitslücken in PHP zu identifizieren, der Skriptsprache, die Millionen von Websites weltweit zugrunde liegt. Diese Sicherheitslücken könnten bei einer Ausnutzung die unbefugte Codeausführung und die Kompromittierung von Servern ermöglichen. OpenAI hob diese Entdeckung hervor, um zu demonstrieren, wie KI-Modelle Verteidiger bei der proaktiven Cybersicherheit und der automatisierten Bug-Jagd unterstützen können. Während Sicherheitsforscher die Fähigkeit der KI begrüßen, komplexe Softwarefehler vor böswilligen Akteuren aufzudecken, unterstreicht diese Entwicklung auch die wachsenden Bedenken, dass Angreifer ähnliche automatisierte KI-Tools nutzen könnten, um Zero-Day-Schwachstellen zu finden.

General Motors arbeitet daran, Fahrzeuge durch die Integration generativer künstlicher Intelligenz in seine Software-Systeme im Auto in proaktive persönliche Assistenten zu verwandeln. Der Automobilhersteller zielt darauf ab, Fahrzeuge in die Lage zu versetzen, alltägliche Aufgaben für Fahrer zu erledigen – wie die Terminplanung, das Bestellen von Essen, das Bezahlen von Parkgebühren und die Steuerung von Smart-Home-Geräten – mithilfe natürlicher Sprachbefehle. Durch die Verknüpfung von Fahrerpräferenzen mit digitalen Drittanbieter-Diensten stellt sich GM vor, die kognitive Belastung während des Pendelns zu reduzieren. Die praktische Nützlichkeit des Systems wird jedoch von einer nahtlosen plattformübergreifenden Integration, einem robusten Datenschutz und der Sicherstellung abhängen, dass freihändige automatisierte Interaktionen den Fahrer nicht ablenken.

Dell hat Nvidias DGX Spark-Silicon in seine Pro Precision Workstation-Reihe integriert und bietet damit Hochleistungshardware für die lokale KI-Entwicklung zu einem Preis an, der 1.000 US-Dollar unter dem Einzelangebot von Nvidia liegt. Die Workstation richtet sich an Data Scientists, Entwickler und Forscher, die das Training von Modellen für maschinelles Lernen, Prototyping für generative KI und komplexe Datenverarbeitung direkt auf Desktop-Hardware ausführen. Durch die Unterbringung von Rechenchips in Unternehmensqualität in einem Standard-Workstation-Gehäuse zu reduzierten Kosten bietet Dell Unternehmen eine wirtschaftlichere Alternative zur lokalen Ausführung intensiver KI-Workloads, ohne sich ausschließlich auf die Cloud-Infrastruktur verlassen zu müssen.

Um den sprunghaft steigenden Strombedarf von KI-Rechenzentren zu decken, planen US-Energieunternehmen die Wiederinbetriebnahme von drei stillgelegten Kernreaktoren. Constellation Energy plant, den Block 1 des Kernkraftwerks Three Mile Island in Pennsylvania bis 2028 im Rahmen eines 20-jährigen Stromliefervertrags mit Microsoft wiederzueröffnen. Unterdessen strebt Holtec International die Wiederinbetriebnahme des Kraftwerks Palisades in Michigan bis Ende 2025 an, unterstützt durch staatliche Kreditgarantien, und NextEra Energy prüft die Reaktivierung der Anlage Duane Arnold in Iowa. Während Technologieunternehmen nach kontinuierlicher, kohlenstofffreier Energie für die wachsenden KI-Arbeitslasten suchen, stehen diese komplexen Infrastrukturprojekte vor ihrer Wiederinbetriebnahme noch vor umfangreichen Genehmigungsverfahren der Nuclear Regulatory Commission, Sicherheitsprüfungen und erheblichen finanziellen Investitionen.

Während KI-Tools zur Codegenerierung Entwicklern helfen, Code schneller zu schreiben, warnt ein neuer Bericht von Faros AI, dass schnelleres Programmieren nicht bedeutet, dass bessere Software schneller geliefert wird. Bei der Untersuchung von Daten von über 10.000 Entwicklern in 30 Engineering-Organisationen stellte die Studie fest, dass KI-Assistenten an anderen Stellen des Softwareentwicklungslebenszyklus Engpässe schaffen, insbesondere bei Code-Reviews und Tests. Entwickler reichen mehr Pull-Requests ein, was die Review-Zeiten und den Rückstau erhöht. Um tatsächliche Produktivitätsgewinne zu erzielen, betont der Bericht, dass Unternehmen nachgelagerte Prozesse wie Reviews, automatisiertes Testen und Bereitstellung zusammen mit der Einführung von Coding-Assistenten optimieren müssen.

Wiz Research nutzte ein KI-Agenten-Framework, um eine kritische Schwachstelle zur Remote-Code-Ausführung (RCE) im Kern von PHP zu entdecken. Die als PHP2Shell bezeichnete Schwachstelle stammt von einer Speicherbeschädigung bei der Verarbeitung von Multipart-Form-Data-Anfragen und könnte es unauthentifizierten Angreifern ermöglichen, beliebigen Code auf betroffenen Servern auszuführen. Wiz hat die Schwachstelle den PHP-Entwicklern verantwortungsbewusst gemeldet, die daraufhin Sicherheits-Patches zur Behebung veröffentlichten. Dieser Befund demonstriert die wachsende Fähigkeit von KI-Tools, komplexe Zero-Day-Schwachstellen in weit verbreiteter Open-Source-Software zu identifizieren, und unterstreicht die Wichtigkeit einer umgehenden Patch-Einspielung im Zuge der Ausweitung der automatisierten Sicherheitsforschung.

Der VPN-Anbieter Windscribe hat eine Sicherheitsprüfung seiner Codebasis mithilfe von KI-Modellen durchgeführt, darunter Claude von Anthropic. Dies könnte das erste KI-gestützte VPN-Audit überhaupt sein. Der KI-Agent scannte die Codebasis des Unternehmens, um Sicherheitslücken und Logikfehler zu erkennen, und deckte dabei Probleme auf, die von standardmäßigen automatisierten Tools übersehen worden waren. Obwohl das Experiment zeigte, dass KI die Codeanalyse und Schwachstellenerkennung erheblich beschleunigen kann, betonte Windscribe, dass menschliche Sicherheitsexperten weiterhin unerlässlich sind, um Ergebnisse zu überprüfen, falsche positive Befunde auszusortieren und komplexe Sicherheitskontexte zu interpretieren.

Das KI-Startup Flint entwickelt Modelle, bei denen die rekursive Selbstverbesserung im Mittelpunkt steht – ein Prozess, bei dem künstliche Intelligenz ihren eigenen Code und ihre Argumentationssysteme iterativ generiert, testet und verfeinert. Das neueste Modell zeigt erhebliche Leistungssteigerungen, indem es autonom Fehler erkennt, Optimierungen vorschlägt und aktualisierte Iterationen trainiert, ohne auf kontinuierliche menschliche Annotationen angewiesen zu sein. Indem das Unternehmen den Modellen ermöglicht, ihre eigenen Evolutionszyklen zu steuern, will es traditionelle Datenengpässe überwinden und die Entwicklung beschleunigen. Forscher mahnen jedoch zur Vorsicht und betonen, dass selbstverbessernde Architekturen einer strengen Überwachung bedürfen, um sich aufsummierende Fehler oder unbeabsichtigtes Verhalten zu verhindern.

Red Hat Inc. und Nvidia Corp. haben ihre strategische Partnerschaft erweitert, um die Sicherheit, Governance und Bereitstellungskontrollen für autonome KI-Agenten in Unternehmensumgebungen zu stärken. Durch die Integration von Red Hat OpenShift AI mit der Software Nvidia AI Enterprise – einschließlich der Nvidia NIM Microservices und NeMo Guardrails – ermöglicht die Zusammenarbeit Unternehmen, komplexe agentische Workflows mit integrierten Zugriffskontrollen und Echtzeitüberwachung auszuführen und zu skalieren. Die gemeinsame Lösung zielt darauf ab, Risiken wie Datenoffenlegung, unverifizierte automatisierte Aktionen und Prompt-Injection-Angriffe zu minimieren, und hilft Unternehmen, autonome Systeme sicher einzuführen und gleichzeitig eine strenge Compliance in der gesamten Hybrid-Cloud-Infrastruktur aufrechtzuerhalten.

Microsoft hat in den jüngsten Windows 11-Preview-Builds mehrere KI-Funktionen zurückgeschraubt, doch diese Entscheidung wurde überschattet, nachdem ein Unternehmensvertreter einräumte, dass das Windows 11-Designteam in seinem täglichen Arbeitsablauf auf generative KI-Tools setzt. Der Manager stellte klar, dass KI ausschließlich dazu verwendet wird, das menschliche Personal in der Frühphase des Brainstormings, bei der schnellen Prototypenerstellung und bei visuellen Experimenten zu unterstützen, anstatt finale Assets zu generieren oder Designer zu ersetzen. Trotz der Zusicherung, dass die menschliche kreative Aufsicht im Mittelpunkt bleibt, warf das Eingeständnis unter Beobachtern breitere Fragen zur Rolle und zum Einfluss automatisierter Design-Tools bei der Gestaltung von Schnittstellen gängiger Desktop-Betriebssysteme auf.

Das Antigravity A1 Follow Me Bundle bietet Solo-Content-Creatoren ein automatisiertes Luftaufnahmesystem, indem es eine 360-Grad-Kameradrohne mit einer tragbaren Tracking-Fernbedienung kombiniert. Der Wearable-Controller ermöglicht es der Drohne, dem Motiv autonom zu folgen und gleichzeitig vollständige sphärische Videos aufzunehmen. So können Benutzer die Aufnahmen während der Bearbeitung neu ausrichten, ohne dass manuelle Flugkenntnisse erforderlich sind. Das System bietet eine reibungslose Videostabilisierung und Freihandbedienung für Action-Aktivitäten. Die Leistung wird jedoch durch eine kurze Flugzeit von etwa 15 Minuten pro Akku, eine Empfindlichkeit gegenüber starkem Wind aufgrund des geringen Gewichts und einen hohen Preis eingeschränkt. Für einzelne Videografen vereinfacht es das Einfangen dynamischer Aufnahmen aus der Third-Person-Perspektive, ohne dass ein eigener Bediener erforderlich ist.