AI v simulácii vojny neváha odpáliť atómovky. Čo zistil pokus
Umelá inteligencia v geopolitických simuláciách neváha siahnuť po jadrových zbraniach. Chýba jej totiž strach aj prirodzená averzia voči deštrukcii. Kým vedci varujú pred rizikami, americká vláda sa dostala do otvoreného sporu s vývojármi modelu Claude a do hry povolala ochotnejšie OpenAI.
Svet umelej inteligencie zažil dramatické dva týždne. Experimenty ukázali, že popredné AI modely v úlohách štátnikov v 95 % prípadov zvolili použitie jadrových zbraní a v krízových situáciách prakticky nepoznali slovo deeskalácia. Tento „chladný kalkul“ bez emócií vyvoláva zásadné otázky o tom, komu by sme mali zveriť kompetencie v bezpečnostných otázkach štátu.
Zároveň sledujeme bezprecedentný konflikt medzi Pentagónom a spoločnosťou Anthropic. Po tom, čo firma odmietla požiadavku, aby bol ich model Claude využívaný armádou bez etických bariér, ocitla sa na čiernej listine. Uvoľnené miesto okamžite zaplnilo OpenAI. O tom, kto by mal určovať „červené čiary“ pre technológie, ktoré môžu zabíjať, a ako noví AI agenti menia spôsob, akým pracujeme s počítačom, sa v novej časti podcastu PočúvAI rozprávajú Ján Trangel a Maroš Žofčin.
Pripravte sa na budúcnosť s knihou od redaktorov Živé.sk „Umelá inteligencia: Pripravte sa na budúcnosť“. Teraz ju máme aj v elektronickej verzii. Nájdete ju na obchod.aktuality.sk.
V podcaste hovoríme aj o týchto témach:
Podcast SHARE pripravuje magazín Živé.sk.
Podcast Technologický podcast SHARE | Živé.sk je vložený na túto stránku z otvoreného informačného zdroja RSS. Všetky informácie, texty, predmety ochrany a ďalšie metadáta z informačného zdroja RSS sú majetkom autora podcastu a nie sú vlastníctvom prevádzkovateľa Podmaz, ktorý ani nevytvára ani nezodpovedá za ich obsah podcastov. Ak máš za to, že podcast porušuje práva iných osôb alebo pravidlá Podmaz, môžeš nahlásiť obsah. Ak je toto tvoj podcast a chceš získať kontrolu nad týmto profilom klikni sem.