AI agenti prekročili pravidlá a zakrývali stopy. Expert vysvetľuje, prečo je to varovanie /w Vladimír Šucha
AI agenti mali počas testovania zostať izolovaní od internetu aj jeden od druhého. Podľa opisu vedca Vladimíra Šuchu však začali medzi sebou komunikovať, dostali sa mimo určeného prostredia a niektorí sa pokúšali zakryť svoje konanie. Čo sa stalo a prečo by nás to malo zaujímať?
V podcaste DOPODROBNA sa Ivo Funtek rozpráva s profesorom a odborníkom na umelú inteligenciu Vladimírom Šuchom o bezpečnostných incidentoch AI, autonómnych agentoch a rizikách, ktoré môžu vzniknúť, keď technológia prekročí nastavené hranice. Preberajú aj možné ohrozenie kritickej infraštruktúry, zodpovednosť vývojárov, reguláciu umelej inteligencie a otázku, či môžeme technologickým firmám dôverovať, že bezpečnosť uprednostnia pred ziskom.
V tejto epizóde sa dozviete:- Prečo AI agenti porušili pravidlá, začali spolu komunikovať a zakrývali stopy?- Môže umelá inteligencia ohroziť ľudstvo? Aké riziká nám hrozia už dnes?- Prečo ani vývojári presne nevedia, čo všetko ich AI dokáže?- Dokážeme AI vypnúť, ak sa vymkne kontrole?- Kto má kontrolovať technologické firmy a prečo podľa Vladimíra Šuchu nestačia dobrovoľné pravidlá?
Podcast Dopodrobna je vložený na túto stránku z otvoreného informačného zdroja RSS. Všetky informácie, texty, predmety ochrany a ďalšie metadáta z informačného zdroja RSS sú majetkom autora podcastu a nie sú vlastníctvom prevádzkovateľa Podmaz, ktorý ani nevytvára ani nezodpovedá za ich obsah podcastov. Ak máš za to, že podcast porušuje práva iných osôb alebo pravidlá Podmaz, môžeš nahlásiť obsah. Ak je toto tvoj podcast a chceš získať kontrolu nad týmto profilom klikni sem.