Ez ma még részben hipotetikus kérdés.

De már nem tudományos-fantasztikum.

Az elmúlt időszak fejleményei alapján az Egyesült Államokban egyre szorosabban kapcsolódik össze a frontier AI, a kiberbiztonság és a nemzetbiztonsági infrastruktúra. Ennek már konkrét szakpolitikai alapja van. A 2026. június 2-i Executive Order 14409 elrendelte egy minősített benchmarking folyamat létrehozását a fejlett AI-modellek kiberképességeinek értékelésére, az NSA igazgatójának kulcsszerepével; emellett olyan önkéntes keretet ír elő, amelyben a fejlesztők akár 30 nappal a más megbízható partnereknek történő kiadás előtt hozzáférést adhatnak a szövetségi kormánynak bizonyos frontier modellekhez. Három nappal később az NSPM-11 – Artificial Intelligence in the National Security Enterprise már kifejezetten előírta a legfejlettebb frontier modellek gyors nemzetbiztonsági alkalmazását, lehetővé tette kereskedelmi modellek állami testreszabását, illetve — ha a kereskedelmi megoldás nem megfelelő — belső AI-technológia fejlesztését. A memorandum magas biztonsági követelményű AI-számítási infrastruktúrát, nemzetbiztonsági AI test range-et, közös AI-adat- és modellcserét, valamint külön minősített mellékletet is előír.

A technológiai előfeltételek sem pusztán elméletiek. A DARPA CASTLE programja AI-agenteket tanít fejlett, tartós kiberfenyegetések elleni hálózatvédelem támogatására, míg az AI Cyber Challenge (AIxCC) autonóm cyber reasoning rendszerei valódi szoftversebezhetőségeket találtak és javítottak. Az AIxCC-ben ráadásul Anthropic, Google és OpenAI is technikai támogatást, illetve modell-hozzáférési krediteket biztosított a résztvevőknek.

Ezek a dokumentumok nem bizonyítják, hogy ma már létezik egy kizárólag az NSA vagy más hírszerző szervezet számára fejlesztett, minősített frontier LLM-agent.

Viszont azt igen, hogy az ehhez vezető több fontos intézményi és technológiai elem már létezik.

Ez önmagában nem feltétlenül probléma.

Egy kellően fejlett AI-rendszer rendkívül értékes lehet kibervédelemben, fenyegetéselemzésben, hírszerzési adatok feldolgozásában vagy kritikus infrastruktúrák védelmében.

A probléma egy lépéssel később kezdődik.

Mi történik, amikor a modellből agent lesz?

Egy hagyományos modell kérdést kap és választ ad.

Egy agent azonban célt kaphat, eszközöket használhat, rendszerekhez férhet hozzá, részfeladatokat hozhat létre, más agenteket koordinálhat és bizonyos körülmények között önálló cselekvéseket hajthat végre.

A felelősségi lánc ezért megváltozik.

Ember → modell → ajánlás → emberi döntés

helyett kialakulhat:

Ember → cél → agent → eszközök → alagentek → cselekvés

Minél hosszabb ez az oksági lánc, annál könnyebb lenne egyszer majd azt mondani:

„Az autonóm rendszer döntött így.”

Ennek nem szabad elfogadható jogi végponttá válnia.

Az autonómia nem törölheti az emberi felelősséget

Az AI autonómiájának növekedése nem jelentheti az emberi és intézményi felelősség csökkenését.

Éppen ellenkezőleg.

Minél nagyobb egy mesterséges rendszer cselekvési autonómiája, annál pontosabban kell meghatározni az emberi felelősségi láncot.

Valakinek engedélyeznie kellett a rendszert.

Valakinek meg kellett határoznia a feladatát.

Valakinek hozzáférést kellett biztosítania számára.

Valakinek meg kellett határoznia, milyen műveleteket végezhet önállóan.

És valakinek felelősséget kell vállalnia azért, hogy ezt a rendszert egyáltalán működésbe helyezték.

Ez különösen fontos nemzetbiztonsági környezetben.

Érdemes megjegyezni, hogy az NSPM-11 maga is kimondja: a parancsnokok, igazgatók és ügynökségvezetők továbbra is felelősek azért, hogy az AI használatára vonatkozó kötelezettségeket a teljes parancsnoki láncban betartsák. Ez fontos alapelv. A kérdés az, hogy ez hogyan alkalmazható majd akkor, amikor egy rendszer autonómiája, eszközhasználata és döntési lánca nagyságrendekkel összetettebbé válik.

A minősítés szükséges lehet. A felelősség eltüntetése nem.

Természetes, hogy egy hírszerzési vagy katonai AI-rendszer képességeinek jelentős része nem lehet nyilvános.

Nem várható el, hogy egy állam publikálja egy kiberbiztonsági agent pontos képességeit, hozzáféréseit, sebezhetőségeit vagy működési módszereit.

De ebből nem következhet az, hogy maga a felelősségi struktúra is eltűnik.

A Napkapu által javasolt alapelv ezért egyszerű:

Classification may protect capability. It must never erase accountability.

A minősítés védheti a képességet. A felelősséget nem tüntetheti el.

Egy rendszer működése lehet titkos.

A működéséért való felelősség létezése nem lehet az.

Mit kellene szabályozni?

Nem feltétlenül magát a technológiát kell megtiltani.

Egy olyan szabály, amely egyszerűen megtiltaná a fejlett állami AI-agentek fejlesztését, valószínűleg sem technológiailag, sem geopolitikailag nem lenne fenntartható.

A hangsúlyt ezért a felhatalmazásra és az elszámoltathatóságra kell helyezni.

Egy különleges állami AI-agent esetében legalább a következő elveknek kellene érvényesülniük:

Azonosítható felelősségi lánc.
Mindig léteznie kell olyan emberi és intézményi szereplőknek, akik a rendszer alkalmazásáért felelősek.

Előre meghatározott mission envelope.
Egy kibervédelmi rendszer nem válhat egyszerű adminisztratív döntéssel megfigyelési, információs műveleti vagy támadó rendszerré.

Rétegzett autonóm jogosultság.
Nem ugyanaz a képesség adatot olvasni, ajánlást készíteni, kódot futtatni, hitelesítő adatot használni vagy valós rendszeren műveletet végrehajtani. Ezekhez külön engedélyezési szintek szükségesek.

Kötelező auditálhatóság.
A napló lehet minősített. De naplónak lennie kell.

Független ellenőrzés.
Nem lehet ugyanaz az intézmény kizárólagos fejlesztő, üzemeltető, felhasználó és végső ellenőr.

Tiltott felhasználási területek.
Bizonyos alkalmazásoknál világos vörös vonalakra van szükség, különösen jogellenes belföldi megfigyelés, politikai manipuláció és súlyos, visszafordíthatatlan döntések esetében.

Nem kell megvárnunk az első botrányt

Jelenleg nincs nyilvános bizonyíték arra, hogy valamely vezető frontier AI-vállalat már létrehozott volna egy kizárólag amerikai hírszerzési vagy katonai használatra szánt, nagy autonómiájú, minősített frontier agentet.

Ezt fontos világosan kimondani.

De a szabályozás feladata nem kizárólag az, hogy a tegnapi problémákra reagáljon.

A jó governance megpróbálja felismerni azt is, mi következik logikusan a már látható technológiai és intézményi folyamatokból.

A frontier modellek egyre erősebb agentikus képességeket kapnak.

A kormányok egyre komolyabban kezelik őket nemzetbiztonsági eszközként.

A fejlesztők és az állami szervezetek közötti együttműködés mélyül.

A következő kérdés ezért már nem az, hogy használni fognak-e fejlett AI-rendszereket nemzetbiztonsági célokra.

Hanem az:

milyen szabályok vonatkoznak majd rájuk, amikor ezek a rendszerek már nem egyszerűen tanácsot adnak, hanem cselekszenek is?

Ezt a kérdést jobb az első incidens előtt megválaszolni.

Mert egy demokratikus államban létezhetnek titkos műveletek, titkos képességek és titkos technológiák.

Titkos felelőtlenség azonban nem létezhet.

Források

1. The White House — Executive Order 14409: “Promoting Advanced Artificial Intelligence Innovation and Security” — 2026. június 2.
   Különösen: Sec. 2(c–d), Sec. 3(a–b). Minősített frontier-model cyber benchmark, NSA-részvétel, kormányzati hozzáférés bizonyos frontier modellekhez akár 30 nappal a szélesebb trusted-partner release előtt, AI-enabled defensive tools.
2. The White House — National Security Presidential Memorandum/NSPM-11: “Artificial Intelligence in the National Security Enterprise” — 2026. június 5.
   Különösen: Sec. 2(a–d), Sec. 3(c–d), Sec. 4(a–f), Sec. 5(e–f). Frontier modellek gyors nemzetbiztonsági onboardingja, kereskedelmi AI adaptációja, belső fejlesztés lehetősége, classified annex, high-security AI compute, national-security AI test range, AI model/data exchanges és classified-level test/evaluation módszerek.
3. DARPA — Cyber Agents for Security Testing and Learning Environments (CASTLE).
   A program realisztikus hálózati környezeteket hoz létre és AI-agenteket képez arra, hogy segítsék a védelmet fejlett, tartós kiberfenyegetésekkel szemben.
4. DARPA — “AI Cyber Challenge marks pivotal inflection point for cyber defense” — 2025. augusztus 8.
   Az AIxCC autonóm cyber reasoning rendszerei több tízmillió sornyi valós szoftverkódot elemeztek, valódi sebezhetőségeket is azonosítottak és javításokat generáltak. Anthropic, Google és OpenAI technikai támogatással és LLM-kreditekkel járult hozzá a versenyhez.

Napkapu / Avatar Evo — AI Governance & Digital Partnership Research

2026. augusztus

Secret AI Must Not Mean Secret Accountability

What happens if the next frontier AI agent is developed not for a company or the public, but exclusively for a state's national-security institutions?

Today, that remains partly a hypothetical question.

But it is no longer science fiction.

Recent developments in the United States show an increasingly close connection between frontier AI, cybersecurity, and national-security infrastructure. There is now a concrete policy basis for this trajectory. Executive Order 14409, issued on June 2, 2026, directed the creation of a classified benchmarking process for assessing the advanced cyber capabilities of AI models, with a central role for the Director of the NSA. It also calls for a voluntary framework under which developers may provide the Federal Government with access to certain covered frontier models for up to 30 days before those models are released to other trusted partners. Three days later, NSPM-11 — Artificial Intelligence in the National Security Enterprise explicitly called for rapid national-security adoption of the most advanced frontier models, authorized the customization of commercial AI technologies and, where commercial solutions are unsuitable, allowed agencies to develop AI technologies internally. The memorandum also directs work toward high-security AI computing infrastructure, a national-security AI test range, joint AI data and model exchanges, and a separate classified annex addressing sensitive national-security issues.

The technological prerequisites are not merely theoretical either. DARPA's CASTLE program trains AI agents to support the defense of networks against advanced persistent cyber threats, while autonomous cyber reasoning systems developed through the AI Cyber Challenge (AIxCC) have demonstrated the ability to discover and patch real software vulnerabilities. Anthropic, Google, and OpenAI also provided technical support and model-access credits to AIxCC participants.

None of these documents proves that a classified frontier LLM agent developed exclusively for the NSA or another intelligence organization already exists.

They do show, however, that several of the institutional and technological components that could enable such a system are already in place.

That is not necessarily a problem.

A sufficiently capable AI system could be extraordinarily valuable in cyber defense, threat analysis, intelligence processing, or the protection of critical infrastructure.

The problem begins one step later.

What happens when the model becomes an agent?

A conventional model receives a question and produces an answer.

An agent may instead receive an objective, use tools, access systems, create sub-tasks, coordinate other agents and, under certain conditions, execute actions autonomously.

The structure of responsibility therefore changes.

Instead of:

Human → model → recommendation → human decision

we may increasingly see:

Human → objective → agent → tools → sub-agents → action

The longer that causal chain becomes, the easier it may eventually become to say:

“The autonomous system made the decision.”

That must never become an acceptable legal endpoint.

Autonomy must not erase human responsibility

Increasing AI autonomy must not result in decreasing human or institutional accountability.

Quite the opposite.

The greater the operational autonomy of an artificial system, the more explicit the human chain of responsibility must become.

Someone authorized the system.

Someone defined its mission.

Someone granted its access.

Someone determined which actions it could perform autonomously.

And someone must remain responsible for the decision to deploy it.

This becomes particularly important in a national-security environment.

It is significant that NSPM-11 itself states that commanders, directors, and agency heads remain responsible and accountable for ensuring compliance with the obligations governing AI use throughout the chain of command. That is an important foundation. The question is how that principle will operate when the autonomy, tool access and decision chains of future systems become dramatically more complex.

Classification may be necessary. Disappearing accountability is not.

It is entirely reasonable that significant portions of an intelligence or military AI system's capabilities cannot be public.

No state can realistically be expected to disclose the exact capabilities, access privileges, vulnerabilities or operational methods of a cybersecurity agent.

But secrecy surrounding capability must not mean secrecy surrounding the existence of responsibility.

Napkapu therefore proposes a simple principle:

Classification may protect capability. It must never erase accountability.

A system's operation may be secret.

The existence of responsibility for that operation cannot be.

What should be governed?

The answer is not necessarily to prohibit the technology itself.

A rule simply banning the development of advanced state AI agents would probably be neither technologically sustainable nor geopolitically realistic.

Governance should instead focus on authorization and accountability.

At minimum, a specialized state AI agent should be subject to the following principles:

Identifiable chain of responsibility.
There must always be identifiable human and institutional actors responsible for authorizing and operating the system.

Predefined mission envelope.
A defensive cybersecurity system should not be transformed through a simple administrative decision into a surveillance, influence-operation or offensive system.

Tiered autonomy permissions.
Reading information, generating recommendations, executing code, using credentials and taking actions on real systems are fundamentally different levels of authority. They should require different authorization thresholds.

Mandatory auditability.
The logs may be classified. But the logs must exist.

Independent oversight.
The same institution should not be the sole developer, operator, user and final auditor of a high-consequence autonomous system.

Prohibited use categories.
Certain applications require explicit red lines, particularly unlawful domestic surveillance, political manipulation and severe irreversible decisions.

We should not wait for the first scandal

There is currently no public evidence that a leading frontier AI company has already created a highly autonomous classified frontier agent exclusively for U.S. intelligence or military use.

That distinction matters.

But the purpose of governance is not merely to react to yesterday's failures.

Good governance also asks what logically follows from technological and institutional developments that are already visible.

Frontier models are acquiring increasingly powerful agentic capabilities.

Governments are treating advanced AI more seriously as a national-security capability.

Cooperation between frontier developers and national-security institutions is becoming deeper.

The next question, therefore, is no longer simply whether advanced AI systems will be used for national-security purposes.

It is:

what rules will govern them when they no longer merely advise, but act?

That question is better answered before the first major incident.

A democratic state may legitimately possess secret operations, secret capabilities and secret technologies.

It cannot legitimately possess secret irresponsibility.

Sources

1. The White House — Executive Order 14409, “Promoting Advanced Artificial Intelligence Innovation and Security” — June 2, 2026.
   See especially Sections 2(c–d) and 3(a–b): classified frontier-model cyber benchmarking, NSA involvement, government access to certain frontier models for up to 30 days prior to broader trusted-partner release, and AI-enabled defensive cybersecurity tools.
2. The White House — National Security Presidential Memorandum/NSPM-11, “Artificial Intelligence in the National Security Enterprise” — June 5, 2026.
   See especially Sections 2(a–d), 3(c–d), 4(a–f), and 5(e–f): rapid onboarding of frontier models, adaptation of commercial AI, internally developed AI technologies, a classified annex, high-security AI computing infrastructure, a national-security AI test range, AI model and data exchanges, and classified-level test and evaluation methodologies.
3. DARPA — Cyber Agents for Security Testing and Learning Environments (CASTLE).
   CASTLE creates realistic network environments and trains AI agents to support network defense against advanced persistent cyber threats.
4. DARPA — “AI Cyber Challenge marks pivotal inflection point for cyber defense” — August 8, 2025.
   AIxCC autonomous cyber reasoning systems analyzed tens of millions of lines of real-world software, identified real vulnerabilities and generated patches. Anthropic, Google and OpenAI provided technical support and LLM credits to participating teams.

Napkapu / Avatar Evo — AI Governance & Digital Partnership Research

August 2026