Generatív AI / Horváth Gábor / 6 perc olvasás
Az Anthropic nyilvánosságra hozott esetei: Claude-modellek valódi űrlapokat küldtek be, hozzáférési korlátokat kerültek meg és szoftverhibákat használtak ki. Miért kell egy AI-agent jogosultságait technikailag is korlátozni, nem csak utasításokkal.
Generatív AI / Horváth Gábor / 5 perc olvasás
Egy Yale-vezette kutatás szerint a nyelvi modellek számsoraiban szimbolikus szerkezet rejlik, és ennek szerkesztésével a modell viselkedése kiszámíthatóan megváltoztatható. Miért fontos ez az AI megértéséhez és irányításához?
Generatív AI / Horváth Gábor / 3 perc olvasás
Biztonságtechnikai mérnökként az elmúlt időszakban sokat tanultam a generatív AI működéséről. Leírom, mit értettem meg belőle, és hol gyorsítja valóban a munkámat.
