Analisi e mitigazione delle vulnerabilità di Prompt Injection nel controllo di sistemi cyber-fisici tramite LLM

The integration of Large Language Models (LLMs) into industrial control systems and home automation (IoT) represents a significant evolution for human-machine interfaces, but simultaneously introduces security vulnerabilities. Although commercial cloud models boast a high degree of native security alignment, their use is often incompatible with the stringent requirements of industrial networks in terms of continuous availability, data privacy, and latency. The adoption of local LLMs with a smaller number of parameters (such as Meta's Llama) meets these requirements, but exposes the system to a greater susceptibility to Prompt Injection attacks. This thesis focuses on the quantitative analysis of such vulnerabilities, empirically evaluating various semantic attack vectors launched on a cyber-physical system (CPS) prototype with a hardware-in-the-loop (HIL) architecture controlled by an LLM. Concurrently, the study proposes and validates the implementation of defense mechanisms based on semantic guardrails (such as NVIDIA NeMo Guardrails). The experimental investigation conducted quantitatively demonstrates the effectiveness of the adopted countermeasures in reducing the attack surface and preserving the operational integrity of the hardware layer. The results obtained highlight the importance of a robust and continuously updated defensive architecture, as well as an ethical and responsible integration of generative Artificial Intelligence (AI) in a continuously evolving technological field.

L’integrazione dei Large Language Model (LLM) nei sistemi di controllo industriale e nell’automazione domestica (IoT) rappresenta un’evoluzione significativa per le interfacce uomo-macchina, ma introduce, al contempo, vulnerabilità di sicurezza. Sebbene i modelli commerciali in cloud vantino un elevato allineamento di sicurezza nativo, il loro impiego risulta spesso incompatibile con i requisiti stringenti delle reti industriali in termini di disponibilità continua, data privacy e latenza. L’adozione di modelli LLM locali con un numero inferiore di parametri (come Llama di Meta) soddisfa tali requisiti, ma espone il sistema a una maggiore suscettibilità agli attacchi di Prompt Injection. La presente tesi si focalizza sull’analisi quantitativa di tali vulnerabilità, valutando empiricamente diversi vettori di attacco semantici lanciati su un prototipo di sistema cyber-fisico (CPS) con architettura hardware-in-the-loop (HIL) controllato da LLM. Contestualmente, lo studio propone e valida l’implementazione di meccanismi di difesa basati su guardrail semantici (come NVIDIA NeMo Guardrails). L’indagine sperimentale condotta dimostra quantitativamente l’efficacia delle contromisure adottate nel ridurre la superficie di attacco e nel preservare l’integrità operativa dello strato hardware. I risultati ottenuti evidenziano l’importanza di un’architettura difensiva solida e in continuo aggiornamento, nonché di un’integrazione etica e responsabile dell’Intelligenza Artificiale (AI) generativa, in un campo tecnologico in continua evoluzione.