Die ersten Top-10-Schwachstellen für große Sprachmodelle (LLMs, Large Language Models) wurden vom Non-Profit-Projekt OWASP (Open Worldwide Application Security Project) ergänzend zu den Top-10-Schwachstellen von Web-Applikationen veröffentlicht. Die wichtigsten Schwachstellen der KI-Modelle waren in Zusammenarbeit mit ca. 500 Experten aus aller Welt in einem mehrmonatigen Verfahren zusammengetragen worden. Am oft spielerisch eingesetzten Jailbreaken der Chatbots zeigt sich, dass die Gefahren drastisch sind. Auf der Website des Projekts befinden sich ausführliche Informationen, Listen und Maßnahmen zur gesamten Thematik.
Den vollständigen Artikel finden Sie hier: