Mi sto accorgendo che uno dei punti oggi più analizzati dei sistemi di IA sono le allucinazioni.

Ho assistito a un intervento di Corrado Giustozzi che ha fatto esempi di allucinazioni di ChatGPT e in particolari di problemi risolti senza coglierne il trucco (non li ripeto, ma mi ricordano quello che chiede se pesa di più un chilo di ferro o uno di paglia). Ora ho sottoposto gli stessi problemi e mi sembra che il risultato sia corretto. Però la questione è da considerare.

Un altro intervento di Alessandro Vallega e Roberto Piazzolla ha messo in luce alcune accortezze quando si usano sistemi di IA per sviluppare software. Gli errori possono essere numerosi e almeno il 45% del codice sviluppato con sistemi di IA presenta vulnerabilità di sicurezza.

Sono altri casi che ci ricordano che l'IA è uno strumento che va usato con molta cautela.