Umelá inteligencia sa z pasívneho chatbota mení na aktívneho kolegu, ktorý dokáže samostatne programovať, pracovať so súbormi a konať v mene človeka. Práve táto autonómia však prináša úplne nové bezpečnostné výzvy, od takzvanej Shadow AI až po skryté útoky na systémy.

Zatiaľ čo zamestnanci si bez vedomia firmy vytvárajú vlastné AI nástroje, moderní agenti občas trpia „zabúdaním“ pôvodných pokynov a v krajnom prípade môžu bez pýtania mazať e-maily.

Ako by mali firmy nastaviť pravidlá, čo sú to nebezpečné moduly (skilly) a prečo zodpovednosť za chyby stroja vždy ponesie človek? O bezpečnostných rizikách v ére AI agentov sme sa v špeciálnom vydaní podcastu PočúvAI rozprávali s produktovým manažérom spoločnosti ESET Kamilom Pšenákom.

Podcast vznikol v spolupráci so spoločnosťou ESET.

V podcaste sa dozviete aj o týchto témach:

• Prečo je plošný zákaz umelej inteligencie vopred prehratý boj.
• Že si zamestnanci často potichu tvoria vlastné neoverené aplikácie.
• Ako autonónni AI agenti od základov zmenia našu prácu, v ktorej už nebudeme úlohy sami vykonávať, ale budeme ich iba zadávať a kontrolovať.
• Prečo agenti občas strácajú pôvodné inštrukcie a začínajú robiť nebezpečné kroky, ako napríklad mazanie e-mailov.
• Ako fungujú útoky, kedy útočníci schovávajú škodlivé príkazy priamo do bežného textu pre umelú inteligenciu.
• Prečo Európa nemusí stavať nový ChatGPT a kde ležia naše skutočné technologické príležitosti.

Podcast pripravuje magazín Živé.sk.