Když AI poslouchá cizí instrukce aneb útoky skrze konektory – security v době AI 5/6
Dal jsi už odběr (zvoneček 🔔) na Spotify, Apple Podcasts, nebo YouTube, aby ti žádná epizoda neunikla?
Martin Haller je cybersecurity expert a spoluzakladatel firmy PATRON-IT, kde firmám pomáhá kybernetickým útokům předcházet i je zvládnout. Jeho přístup stojí na tom, že kdo chce dobře bránit, musí rozumět tomu, jak se útočí.
V této epizodě otevíráme situaci, kdy si lidi AI rozšiřují pomocí skillů, pluginů, konektorů a MCP serverů. Instalují je jako běžná rozšíření v prohlížeči, protože vypadají užitečně. Přitom každé z nich dává AI nové schopnosti a nové zdroje instrukcí. Skill nebo dokument, který AI zpracuje, může obsahovat skryté pokyny — a najednou AI dělá něco jiného, než uživatel chtěl. Vyzradí data, smaže soubory, upřednostní cizí záměr. Probíráme, kde je hranice mezi užitečným rozšířením a otevřením dveří útočníkovi, čemu důvěřovat, čemu ne a proč u citlivých akcí patří potvrzení do rukou člověka, ne AI. Příjemný poslech.
👉 Matěj Kotrba je zakladatel a CEO KAIZEMA, IT hiringové agentury, která se specializuje na nábor seniorních a těžko obsaditelných IT pozic. Pokud hirujete nové kolegy do Vašeho IT týmu a nevíte si rady a potřebujete pomoct, napište Matějovi na LinkedIn nebo email matej.kotrba@kaizema.cz a domluvte si nezávaznou konzultaci. 👉 www.kaizema.cz
Podcast Fuckupy v IT je vložený na túto stránku z otvoreného informačného zdroja RSS. Všetky informácie, texty, predmety ochrany a ďalšie metadáta z informačného zdroja RSS sú majetkom autora podcastu a nie sú vlastníctvom prevádzkovateľa Podmaz, ktorý ani nevytvára ani nezodpovedá za ich obsah podcastov. Ak máš za to, že podcast porušuje práva iných osôb alebo pravidlá Podmaz, môžeš nahlásiť obsah. Ak je toto tvoj podcast a chceš získať kontrolu nad týmto profilom klikni sem.