TED 217473-2024 Detektion von Bildern multimodaler Modelle (RealOrRender)

State-of-the-Art KI-Modelle zur Generierung und gezielten Modifizierung von Bildern auf Basis einer Textbeschreibung (Text-to-Image) bzw. einer Textbeschreibung und eines oder mehrerer Bilder (Text&Image-to-Image), sogenannte multimodale Modelle wie beispielsweise Imagen, DALL-E 3 und Midjourney, erzeugen beeindruckende Bilder, die auf den ersten Blick nicht von vollständig echten Bildern (Fotos oder Kunst) zu unterscheiden sind. Zugleich bieten diese Modelle aber auch Missbrauchspotenziale, wie etwa das Unterstützen von Falschmeldungen oder Social Engineering-Angriffen. Eine Detektionsmöglichkeit maschinell erstellter Bilder ist daher aus IT-sicherheitlicher Sicht erstrebenswert. Aufgrund der momentan rasanten Entwicklungen im Bereich der künstlichen Intelligenz existiert bisher kein umfassender Überblick über das Gefahrenpotenzial für Staat und Gesellschaft, das von der KI-gestützten Generierung und Modifizierung hochqualitativer Bilder ausgeht, sowie über mögliche Detektionsmethoden. Daher soll in diesem Projekt eine Übersicht über die derzeitigen Methoden zur nachvollziehbaren Erkennung von künstlich erzeugten bzw. modifizierten Bildern erstellt werden. Im Anschluss sollen diese auf ihre Zuverlässigkeit und Nachvollziehbarkeit hin evaluiert werden. Basierend auf den identifizierten Schwachstellen der bestehenden Methoden soll eine (Weiter-)Entwicklung erfolgen und im weiteren Verlauf ein Demonstrator für die entwickelte Methode aufgebaut werden.

Publikationsnummer: 217473-2024 Veröffentlicht: 2024-04-12 Auftraggeber: BSI, Bonn Angebotsfrist: 2024-05-27+02:00 10:00:00+02:00

Daten und Ressourcen

Zusätzliche Informationen

Feld Wert
Zuletzt aktualisiert November 22, 2026, 01:44 (UTC)
Erstellt November 22, 2026, 01:44 (UTC)
buyer_city Bonn
buyer_country DEU
buyer_name BSI
contract_type services
cpv_codes 72000000
cpv_main 72000000
deadline 2024-05-27+02:00 10:00:00+02:00
document_type cn-standard
language DEU
notice_title Detektion von Bildern multimodaler Modelle (RealOrRender)
notice_version 1
nuts DEA22
nuts_buyer DEA22
procedure_id 31174ab7-0e0f-4629-886f-1d13e49d5669
procedure_type open
publication_date 2024-04-12
publication_number 217473-2024