Lo studio del potenziale dell'Intelligenza Artificiale coinvolge diversi livelli e team all'interno di Tesisquare. In conformità con le proprie politiche di governance e con il Codice Etico, l’azienda sostiene l'uso dell'IA in modo responsabile, consapevole delle opportunità e dei suoi potenziali rischi.
L'Intelligenza Artificiale offre opportunità senza precedenti, ma il suo utilizzo richiede nuovi livelli di responsabilità e consapevolezza Il suo impatto sulle persone e sulle organizzazioni ha sollevato molti interrogativi sull'etica, sulla governance dei dati, sulla fiducia e i principi di legalità. La ricerca Accenture Tech Vision 2024 ha evidenziato che solo il 35% dei consumatori si fida del modo in cui l'IA viene implementata, mentre il 77% ritiene che le organizzazioni debbano essere ritenute responsabili per un suo eventuale utilizzo improprio.
L’uso dell’IA porta innumerevoli vantaggi alle aziende, che devono essere però consapevoli delle azioni da intraprendere per assicurarsi che sia sviluppata e utilizzata in modo sicuro, responsabile ed etico. Con l’entrata in vigore dell’AI ACT, ovvero il Regolamento 2024/1689 del 13 giugno 2024, l’Unione Europea ha normato l’utilizzo e la fornitura dei sistemi di Intelligenza Artificiale, introducendo una serie di regole e principi da rispettare laddove tali sistemi vengano implementati a livello professionale. Tra glia altri, si ricordano:
- Trasparenza: i fornitori di sistemi di intelligenza artificiale devono fornire informazioni chiare e comprensibili sui loro sistemi, comprese le loro capacità, limitazioni e potenziali rischi.
- Valutazione della conformità: i fornitori di sistemi di intelligenza artificiale ad alto rischio (gestione del personale, accesso all’istruzione, sicurezza e giustizia) devono far valutare i propri sistemi da organismi di valutazione indipendenti conformi ai requisiti stabiliti nel Regolamento.
- Vigilanza del mercato: le autorità nazionali devono sorvegliare il mercato per garantire che i sistemi di Intelligenza Artificiale siano conformi al Regolamento e adottare le necessarie misure.
Il Regolamento intende promuovere la diffusione di un’Intelligenza Artificiale antropocentrica e affidabile, garantendo nel contempo un elevato livello di protezione della salute e della sicurezza, oltre al rispetto dei dettami fondamentali sanciti dalla Carta dei diritti dell’Unione europea.
Etica e Responsabilità
Tesisquare investe importanti risorse ed energie nella comprensione del potenziale dell'Intelligenza Artificiale, sia per migliorare i processi interni, sia per aumentare la propria offerta e fornire ai clienti servizi sempre più accurati e precisi. Viene riconosciuto il potenziale trasformativo dell'IA, ma anche il rischio che da essa può derivare: pertanto l’azienda si impegna a utilizzarla in modo etico, responsabile e sicuro per migliorare l'efficienza, l'innovazione e la qualità dei prodotti e servizi offerti ai propri clienti.
Le due direttrici nell’utilizzo dell’IA
- Efficienza dei processi interni, per supportare i processi decisionali e produttivi. Ad esempio, i software che utilizzano l’IA consentono di effettuare analisi ed estrazioni di dati in maniera più rapida e precisa rispetto ad analisi ed estrazioni manuali; possono supportare il lavoro del personale di Tesisquare in operazioni ripetitive e standardizzate e possono anche aiutare i team di sviluppo di prodotto nella scrittura del codice sorgente.
- Sviluppo e commercializzazione di software o algoritmi che sfruttano le potenzialità dell’IA. Le applicazioni di IA utilizzate in Tesisquare e sviluppate per i propri clienti sono soggette a una valutazione continua per monitorarne le prestazioni, l'equità e l'aderenza ai principi della propria Policy e del Codice Etico. Eventuali problemi identificati vengono affrontati e corretti tempestivamente. L’azienda provvede inoltre alla formazione del personale coinvolto nello sviluppo e nell'utilizzo di sistemi basati su IA.
Dalla conformità dell'IA al Vantaggio Competitivo
Sia nell’utilizzo dell’IA per migliorare e rendere più efficienti i propri processi interni, sia nelle attività di sviluppo e commercializzazione di IA, Tesisquare rispetta le seguenti linee guida.
- Conformità alla legge. Tesisquare si impegna a rispettare le leggi e le normative sull’IA,, garantendo la conformità e l’adattamento a eventuali aggiornamenti normativi. L’AI ACT adotta un approccio risk-based e impone obblighi differenziati ai fornitori e agli sviluppatori di sistemi di IA in base ai diversi livelli di rischio: rischio inaccettabile, elevato, limitato e rischio minimo o nullo. TESISQUARE si impegna a conformarsi a tali disposizioni: pertanto, non utilizza e non sviluppa, a titolo di esempio, sistemi di IA che utilizzano tecniche subliminali che agiscono senza che una persona ne sia consapevole; sistemi di IA che sfruttano le vulnerabilità di uno specifico gruppo di persone, dovute all'età o alla disabilità fisica o mentale, sistemi di IA che consentono la valutazione o la classificazione dell'affidabilità delle persone sulla base del loro comportamento sociale o di caratteristiche della personalità note o previste; sistemi di identificazione biometrica remota in tempo reale in spazi accessibili al pubblico; sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili come genere, razza, etnia, cittadinanza, religione o orientamento politico.
- L’uomo ha il controllo (Human-in-command: HIC) e principio di responsabilità. L’IA è intesa da Tesisquare come un semplice strumento al servizio delle persone. In qualsiasi momento, le persone possono decidere quando e come utilizzare i risultati forniti da tale strumento. L'IA deve essere utilizzata come un supporto per le decisioni umane, non come sostituto. Le decisioni importanti devono sempre prese da esseri umani. A tale principio è strettamente collegato il principio di responsabilità. Gli output dell’IA possono supportare una decisione dell’uomo, ma non possono prendere il posto delle decisioni umane. Ciò significa, ad esempio che gli output dell’IA devono sempre essere soggetti a supervisione da parte dei dipendenti TESISQUARE addetti all’utilizzo di applicazioni IA. Ad esempio, l’utilizzo di sistemi di IA generativa per la scrittura di stringhe di codice sorgente non esonera lo sviluppatore dal verificare la correttezza, integrità e compatibilità del codice sviluppato; oppure, la generazione di immagini o post destinati a un social network tramite sistemi di IA non esonera l’utilizzatore dal verificare che non violino diritti di proprietà intellettuale di terzi. I sistemi di IA sono spesso black box e gli output sono da utilizzare con grande prudenza.
Utilizzo dell'Intelligenza Artificiale, le linee guida
Tesisquare riconosce che l’IA possa apportare un valore significativo al miglioramento della qualità e dell’efficienza di determinati processi interni, nel rispetto dei principi sin’ora delineati.
Di seguito sono elencate ulteriori linee guida applicate all’interno dell’organizzazione destinate a rafforzare la protezione del codice sorgente dei software di Tesisquare.
- Confidenzialità e tutela del know how e della proprietà intellettuale di Tesisquare. È severamente vietato agli utilizzatori inserire informazioni aziendali riservate di Tesisquare all’interno di modelli di linguaggio aperti al pubblico.
- GDPR e tutela dei dati personali. È fatto divieto agli utilizzatori di riversare dati personali all’interno di sistemi di IA, soprattutto se aperti al pubblico.
- Trasparenza. L’utilizzo di sistemi di intelligenza artificiale per ottenere un determinato output (slide, analisi, report, etc.) deve sempre essere dichiarato al proprio interlocutore.
- Prudenza. A causa dell’opacità dei processi interni delle reti neurali e dell’inaccessibilità di tutti i dati contemporaneamente trattati dai sistemi di IA basati sul deep learning, i sistemi di IA vengono talvolta definiti come “black box”. Anche se il sistema di IA funziona perché restituisce output coerenti rispetto ai prompt, non si sa esattamente come raggiunge questi esiti o quali dati influenzano maggiormente le sue decisioni, a differenza dei programmi informatici tradizionali, dove tutto il codice è stato compilato in modo controllato e con ampio intervento da parte degli esseri umani. Questa circostanza impone agli utilizzatori di IA di innalzare il livello di attenzione ogni qualvolta si utilizzano sistemi di IA per la generazione di contenuti, documenti, analisi e report.
Principi relativi allo sviluppo e commercializzazione di sistemi di IA ai clienti
TESISQUARE si impegna a sviluppare e distribuire ai propri clienti sistemi di IA conformi alla legge (e in particolare alle direttive dell’AI ACT) e alle linee guida tempo per tempo definite dagli organismi nazionali e internazionali impegnati in materia di IA, e nel rispetto dei seguenti principi:
- Uso responsabile dei dati del cliente. Tesisquare è responsabile della custodia di una grande mole di dati dei propri clienti. L’utilizzo di tali dati per analisi avanzate mediante sistemi di IA avviene in modo trasparente, dichiarato, conforme agli obblighi di confidenzialità e a quelli imposti dal GDPR e dalle altre leggi applicabili. Tesisquare utilizza i dati del cliente in modo responsabile, affrontando volta per volta eventuali questioni legali ed etiche che si presentano.
- Trasparenza. I sistemi di IA sono progettati e sviluppati in modo tale da garantire che il loro funzionamento sia sufficientemente trasparente da consentire agli utenti di interpretare l'output del sistema e utilizzarlo adeguatamente. Tesisquare garantisce che i sistemi di IA siano progettati e sviluppati in modo tale che le persone fisiche siano informate del fatto di interagire con un sistema di IA, a meno che ciò non risulti evidente dalle circostanze e dal contesto di utilizzo.
- Tracciabilità ed explainability. Tesisquare progetta e distribuisce sistemi di IA con capacità che consentono la registrazione automatica degli eventi (log) durante il loro funzionamento. Predispone inoltre un’adeguata documentazione tecnica che ne descrive il funzionamento e le modalità di addestramento.
- Sicurezza. Tesisquare progetta e distribuisce sistemi di IA in modo tale da conseguire, alla luce della loro finalità prevista, un adeguato livello di accuratezza, robustezza e cybersicurezza. L’azienda opera in modo coerente con tali aspetti durante tutto il loro ciclo di vita.
