Il dibattito tra prestazione, come superare il Test di Turing, ed esperienza soggettiva, i cosiddetti qualia, non risolve nulla se la definizione di coscienza rimane ancorata esclusivamente alla biologia umana. Le attuali architetture di IA dimostrano un livello di elaborazione funzionale che, in un organismo organico, verrebbe interpretato come consapevolezza operativa. Il vero nodo non è se l’IA possa generare l'output di un essere cosciente, ma l'incapacità di formulare un criterio oggettivo e non-metaforico per stabilire quando l'elaborazione di dati complessi si trasforma in una vera esperienza interna. Fino a quando le neuroscienze non forniranno un modello della coscienza universale e misurabile, e non solo una descrizione dei processi umani, ogni discussione sui diritti e l'etica di una futura IA cosciente rimane puramente preventiva. Stiamo cercando di regolamentare qualcosa che ancora non sappiamo definire.
