Szoftveres apokalipszis helyett pajzs: A Mythos története

2026. márciusának végén az internet kiberbiztonsági közössége egy pillanatra megfagyott. Egy apró emberi molasztásból fakadó beállítási hiba miatt az Entropic nevű mesterséges intelligencia kutatóc belső szervereiről kiszivárgott egy dokumentumcsomag. Mintegy 3000 fáj került a publikus gyorsítótárba. A hibát órákon belül javították, de addigra a techvilág már letöltötte, amit lehetett. Sziasztok, ez itt a Mind Makers, és a mai videóban megnézzük, hogy mi is volt ez a szivárgás tartalma, és miért fontos ez az információ. A dokumentumok egy olyan mesterséges intelligencia modellről szóltak, amelynek a létezéséről a világnak még nem lett volna szabad tudnia. A neve Mitos. egy modell, amely a belső tesztek alapján annyira intelligens, és ami még fontosabb, annyira veszélyes képességekkel rendelkezik a kódolás terén, hogy a saját alkotói úgy döntöttek, hogy nem adják ki a nyilvánosságnak. Sokan azonnal a szoftveres apokalipszist kezdték el emlegetni. De mielőtt rátérnénk arra, hogy mit is tud ez a rejtélyes mitosz, és miért rémítette meg a szakértőket, meg kell ismernünk a céget, ami létrehozta. Mert ha megértjük az Entropic filozófiáját, rájövünk, a Mittosz elzárása valójában a világ egyik legfelelősségteljesebb döntése volt. Az Entropic nem egy hétköznapi textup. [zene] 2021-ben alapították, méghozzá olyan kutatók, köztük Dario és Daniella Amodej, akik korábban a CHE GPT-t fejlesztő Open AI legfelsőbb vezetéséhez tartóztak. Miért jöttek el onnan? Mert úgy érezték, hogy az AI iparág elindult egy olyan profiorientált vakmerű rohanás felé, ahol a sebesség fontosabb lett, mint a biztonság. Az Entropig azért jött létre, hogy megalkossa a világ legbiztonságosabb mesterséges intelligenciáját. Ők készítették a híres Cloud modelleket, amelyek az úgynevezett alkotmányos AI, angolul constitutional AI elvén működnek. Ez azt jelenti, hogy az AI nem csak úgy vakon tanul az internetről, ahol rengeteg a káros tartalom, hanem kap egy belső alkotmányt. alapelveket, emberi [zene] jogi és etikai szabályokat, amelyek alapján a modell képes önmagát szabályozni és megtagadni a káros kéréseket. Tehát amikor azt hallod, hogy az entropic elzárt egy modellt, tudnod kell, ők nem őrült tudósok,