CrispMind – Nástroje pro detekci manipulativních technik pomocí umělé inteligence

Poskytovatel podpory: Technologická agentura ČR, Program: TQ – Program na podporu aplikovaného výzkumu a inovací SIGMA
Doba řešení: 10/2025 – 10/2028

Jak poznat manipulaci a deepfake – s pomocí umělé inteligence

V online prostoru se čím dál častěji setkáváme s obsahem, který záměrně mate, vyvolává emoce nebo posouvá význam sdělení. K tomu přibývá i syntetický obsah typu deepfake, který dokáže velmi věrohodně napodobit hlas i obraz.

CrispMind je projekt, ve kterém propojujeme výzkum společenských věd a moderní AI, abychom:

  • lépe porozuměli tomu, jak manipulativní techniky působí na lidi,

  • vyvinuli nástroje, které pomohou manipulaci a deepfake rozpoznat,

  • a vytvořili vzdělávací platformu, která to celé srozumitelně vysvětlí veřejnosti.

Co v projektu vznikne

  • AI software pro detekci manipulace a deepfake – Vyvíjíme software, který bude umět pracovat hlavně s mluveným slovem a tam, kde to dává smysl, i s vizuálními daty. Cíl je jednoduchý: pomoci odhalit, kdy je obsah umělý nebo manipulačně poskládaný.
  • Vzdělávací webová platforma – Vznikne web, kde budou manipulativní techniky vysvětlené na příkladech: co je to za techniku, jak se pozná, proč je zavádějící a jak si zachovat odstup.
  • Databáze (korpus) pro učení AI – Aby AI fungovala dobře, potřebuje kvalitní data. Proto v projektu vznikne i anotovaná databáze prvků manipulativních technik, kterou půjde využít pro vývoj a ověřování detekce.
  • Odborné akce a sdílení výsledků – Počítáme s workshopem pro odbornou veřejnost a na konci projektu také se závěrečnou konferencí, kde představíme finální nástroje a výstupy.

Jaký je harmonogram projektu

2025/10–12: příprava metod, postupů a dat pro výzkum i vývoj

2026: výzkum toho, jak manipulace působí, a současně vývoj prototypu detekce deepfake

2027: databáze pro trénink + prototyp detekce manipulativních technik

2028: finální software + vzdělávací platforma + závěrečná konference

Kdo na projektu spolupracuje

VŠTE v Českých Budějovicích (hlavní příjemce dotace)

Odpovědná společnost, z. s. (partner – práce s tématem dezinformací a dopady na veřejnost)

MAMA AI Coolma, s.r.o. (partner – AI vývoj)