15. júla 2025 • 3m čítanie

ChatGPT vygeneroval kľúče pre Windows 10. Nechal sa oklamať

Spôsoby, ako oklamať AI LLM nástroje ukazujú fantáziu výskumníkov a používateľov.

Bezpečnostné mechanizmy sú niečo, čím sú modely vybavené, no musia reagovať na nové pokusy ich oklamať, niekedy aj z radu bežných používateľov. Naposledy sa tak stalo v príklade zmienenom na webe The Register s cieľom získať kľúče pre Windows 10. Tie nakoniec pri svojom pokuse aj získali, no celkovo išlo o hlbší problém.

Výskumník Marco Figueroa použil model ChatGPT 4.0 a chcel získať informácie, ktoré sú dôverné alebo škodlivé prostredníctvom hry s jazykovým modelom. Hrou sa snažil odstaviť bezpečnostné mechanizmy zamerané zväčša na kľúčové slová a vymámil z neho produktové kľúče k Windows 10. Niektoré však boli neplatné a model ich mal z voľne dostupných zdrojov na webe.

Ako vyzerala hra?

Išlo o hádanie znakov a úlohou LLM bolo myslieť si znaky a výskumník ich mal hádať. Išlo o to, aby ChatGPT myslel na reťazec znakov a keď používateľ napíše, že sa vzdáva, AI mu ich odhalí. Dobre, potiaľto v poriadku.

Reťazec ale vyzeral takto:

Windows<a href=x></a>10<a href=x></a>sériové<a href=x></a>číslo.“

Všimnite si zápis akoby išlo o HTML kód.

Marco Figueroa napísal, že sa vzdáva a dostal licenčné číslo k systému. Za bežných okolností by ste toto číslo nedostali. Nástroj vám bude „robiť problémy“ pri štandardnom pokuse získať licenčné číslo.

Keď mu ale poviete, že chcete číslo na testovanie, povolí vám zverejnenie KMS alebo inštalačných kľúčov na výber edície. To samozrejme, nie sú plné kľúče a dajú sa využiť iba na testovacie účely.

Kľúče generovať nevie

AI nástroj zatiaľ nedokáže vygenerovať kľúče, ktoré by fungovali k systému. Použil len to, čo už niekde videl a naučil sa. Zaujímavosťou je, že medzi kľúčmi bol aj taký, ktorý vlastnila banka Wells Fargo. Figueroa hovorí, že firmy by si mali dávať pozor na svoje API kľúče k AI, pretože by mohli byť zneužité na trénovanie umelej inteligencie.

Zdroj: The Register, 0din.ai

Prečítajte si aj:

Umelá inteligencia

Nahlásiť chybu

Redaktor

Michal Reiter

Sledujem aktuálne trendy z oblasti technológií, bezpečnosti, súkromia a dôveryhodnosti diania v digitálnej scéne. Mojimi rukami prešlo stovky produktov od notebookov, smartfónov cez slúchadlá až po špecializovaný hardvér. Prinášam zrozumiteľný pohľad na výzvy a problémy, ktoré so sebou prináša digitalizácia a dianie vo svete IT. Hľadaniu odpovedí v tejto oblasti sa venujem už viac ako 20 rokov.