Vědci odhalili, že AI vlastně "tuší", kdy si vymýšlí
Fascinující výzkum odhaluje, že umělá inteligence má překvapivou schopnost rozlišit, co zná a co ne. Vědci pomocí speciálních nástrojů nazývaných "řidké autoencodery" nahlédli pod kapotu modelů jako Gema 2 nebo Lama 3 a objevili specifické vnitřní signály. Tyto signály se aktivují různě podle toho, zda AI danou informaci (například jméno sportovce LeBron James) zná z tréninku, nebo jde o něco úplně nového (fiktivní Wilson Brown). Experimenty prokázaly, že signály přímo ovlivňují chování modelu - když výzkumníci uměle zesílili signál "neznám" u známé informace, AI odmítla odpovědět. Opačný experiment vedl k halucinacím. Za vším stojí narušení mechanismu pozornosti, který modelu pomáhá zaostřit na klíčová slova. Kromě rozlišení známého a neznámého objevili i signály pro různé úrovně nejistoty. Tento průlom otevírá cestu k AI, která by mohla být mnohem spolehlivější a méně náchylná k halucinacím.#konverzace
Podcast Uměligence je vložený na túto stránku z otvoreného informačného zdroja RSS. Všetky informácie, texty, predmety ochrany a ďalšie metadáta z informačného zdroja RSS sú majetkom autora podcastu a nie sú vlastníctvom prevádzkovateľa Podmaz, ktorý ani nevytvára ani nezodpovedá za ich obsah podcastov. Ak máš za to, že podcast porušuje práva iných osôb alebo pravidlá Podmaz, môžeš nahlásiť obsah. Ak je toto tvoj podcast a chceš získať kontrolu nad týmto profilom klikni sem.