Úgy látszik, én töltöm meg a témát. Valóban, a természetes intelligencia sem azt az utat követte, hogy rögtön intelligens fegyvereket talált ki, de a mesterséges intelligenciától, melynek hátterében ott az egész emberi kultúra, igen nehéz ilyen ,,nüansznyi" hibát elnézni. Ez is csak azt jelzi, hogy nem tudunk normálisan élni vele. Továbbá, hogy fennáll a veszélye egy szakbarbár AI létrehozásának, amely alkotója életére tör.

De lassan elérünk oda, amire igazán kíváncsi vagyok: mi van, ha a tudatosságot nemcsak az emberhez kötjük? Az UFO-n érkező idegenekkel szemben csak addig vannak fenntartásaink, amíg randák szegények, de ha felveszik a moziban valamelyik rokonszenves színész alakját, rögtön feltételezzük, hogy ugyanolyan etikai normái vannak, mint nekünk, minden OK. Azonban idegenkedünk attól, ha ugyanezt egy általunk létrehozott kreatúra vezeti elő, melyben chipek vannak. Persze ez sem igaz, mert R2D2 ugye ott van ellenpéldának, csak elég hollywoodi filmet kell nézni.

A problémát én ott látom, hogy létrehozunk egy mesterséges intelligencia nevű valamit, és nem tudjuk mi az. Mint a gyerek, aki homokból akkora várat épít, hogy aztán amikor belép, az egész összedől, és maga alá temeti.