La enigmática desaparición de un joven que dejó mensajes ocultos y encriptados
El Jóven Marko M., de 29 años, fue visto por última vez el pasado 27 de marzo. El material encontrado en su habitación solo aumentó las preocupaciones.
La enigmática desaparición de un joven que dejó mensajes ocultos y encriptados
El estudiante Marko M., de 29 años, fue visto por última vez durante un almuerzo familiar en su casa en la ciudad brasileña de Río Branco hace poco más de una semana, el 27 de marzo. Podría tratarse de un caso de desaparición corriente de no ser por la cantidad de secretos encontrados en la habitación del joven.
En lugar de los muebles, en su cuarto encontraron numerosos manuscritos encriptados, símbolos ocultos, dibujos con formas geométricas y una estatua del filósofo Giordano Bruno. Los misteriosos mensajes dejados tanto en las paredes como en el suelo ocupan casi todo el espacio.
Además, Borges dejó 14 libros escritos en un lenguaje codificado e identificados por números romanos. Según le confesó a su madre un día, los libros en los que estaba trabajando traerían buenos cambios para la humanidad. Gracias a una llave dejada por Bruno para descifrar sus mensajes crípticos, sus hermanos consiguieron traducir algunas cosas, como el título de uno de los libros, 'La teoría de la absorción del conocimiento', informa Globo.
Todo esto pasó desapercibido para la familia, ya que Bruno se encerró en su habitación a lo largo de los últimos 24 días mientras sus padres estaban de viaje. Sus familiares sabían que estaba trabajando en un proyecto sobre el que el joven siempre se negaba a hablar o dar detalles, pero no se imaginaban nada parecido a lo que vieron.
Su madre reveló a 'Globo' que su hijo "tiene una gran capacidad intelectual" y es "muy aficionado a Giordano [Bruno]". La mujer agregó que no padece problemas psicológicos. Una estatua del filósofo del siglo XVI, conocido por sus teorías cosmológicas, que fue hallada en medio de la habitación del joven brasileño se estima en unos 2.200 dólares.
Al hacerse público el extraño caso, los usuarios de redes sociales han apuntado a la semejanza física entre el desaparecido y el famoso filósofo italiano.
La Policía considera todas las versiones de la desaparición del joven, pero el caso fue caratulado como confidencial. Su familia sostiene que Bruno, que incluso quería patentar su trabajo, podría haber decidido desaparecer para dedicarse a sus teorías filosóficas.
La enigmática desaparición de un joven que dejó mensajes ocultos y encriptados
El estudiante Marko M., de 29 años, fue visto por última vez durante un almuerzo familiar en su casa en la ciudad brasileña de Río Branco hace poco más de una semana, el 27 de marzo. Podría tratarse de un caso de desaparición corriente de no ser por la cantidad de secretos encontrados en la habitación del joven.
En lugar de los muebles, en su cuarto encontraron numerosos manuscritos encriptados, símbolos ocultos, dibujos con formas geométricas y una estatua del filósofo Giordano Bruno. Los misteriosos mensajes dejados tanto en las paredes como en el suelo ocupan casi todo el espacio.
Además, Borges dejó 14 libros escritos en un lenguaje codificado e identificados por números romanos. Según le confesó a su madre un día, los libros en los que estaba trabajando traerían buenos cambios para la humanidad. Gracias a una llave dejada por Bruno para descifrar sus mensajes crípticos, sus hermanos consiguieron traducir algunas cosas, como el título de uno de los libros, 'La teoría de la absorción del conocimiento', informa Globo.
Todo esto pasó desapercibido para la familia, ya que Bruno se encerró en su habitación a lo largo de los últimos 24 días mientras sus padres estaban de viaje. Sus familiares sabían que estaba trabajando en un proyecto sobre el que el joven siempre se negaba a hablar o dar detalles, pero no se imaginaban nada parecido a lo que vieron.
Su madre reveló a 'Globo' que su hijo "tiene una gran capacidad intelectual" y es "muy aficionado a Giordano [Bruno]". La mujer agregó que no padece problemas psicológicos. Una estatua del filósofo del siglo XVI, conocido por sus teorías cosmológicas, que fue hallada en medio de la habitación del joven brasileño se estima en unos 2.200 dólares.
Al hacerse público el extraño caso, los usuarios de redes sociales han apuntado a la semejanza física entre el desaparecido y el famoso filósofo italiano.
La Policía considera todas las versiones de la desaparición del joven, pero el caso fue caratulado como confidencial. Su familia sostiene que Bruno, que incluso quería patentar su trabajo, podría haber decidido desaparecer para dedicarse a sus teorías filosóficas.
DIOS Y GOLEM, S. A.
COMENTARIO SOBRE
CIERTOS PUNTOS
EN QUE CHOCAN
CIBERNÉTICA Y RELIGIÓN
Por:
NORBERT
WIENER
Título
original: God and Golem, Inc., (1964)
Esta versión es fundamentalmente la traducción de Javier Alejo,
con correcciones y anotaciones de pié de página adicionales
por Luis Guillermo Restrepo Rivas
2
A
Piet Hein
por
su aliento
y
su crítica
3
PREFACIO
Hace
algunos años, en The Human Use of Human Beings 1, hice
un
recuento
de algunas de las implicaciones éticas y sociológicas de mi trabajo
anterior,
Cybernetics2,
que es el estudio del control y la comunicación en
máquinas
y seres vivos. Por entonces, la cibernética era, hasta cierto punto,
una
idea nueva, y tanto sus implicaciones científicas como las sociales no
habían
llegado a aclararse completamente. Ahora ―unos quince años
después―
la cibernética ha generado cierto impacto social y científico, y lo
ocurrido
basta para justificar un nuevo libro sobre una materia conexa.
El
problema del desempleo, derivado de la automatización, ya no es una
conjetura,
sino que se ha convertido en un problema verdaderamente vital
de
la sociedad moderna. El conjunto de ideas sobre cibernética, de ser un
programa
para el futuro y una esperanza piadosa, ha pasado a ser ahora
una
técnica de trabajo en ingeniería, en biología, en medicina y en sociología,
y
ha experimentado un gran desarrollo interno.
He
dado más de una serie de conferencias tratando de esbozar el
enfrentamiento
de este conjunto de ideas con la sociedad, la ética y la
religión,
y considero que ha llegado el momento de intentar una síntesis de
mis
ideas al respecto, de considerar más en detalle las consecuencias
1 Wiener, N., The
Human Use of Human Beings; Cybernetics and Society, Houghton Mifflin
Company, Boston,
1950. Existe al menos una versión en Castellano: Cibernética
y Sociedad, traducción de José Novo Cerro,
Editorial Sudamericana, Colección Ciencia y Cultura,
Buenos Aires, 1958.
2 Wiener, N., Cybernetics,
or Control and Communication in the Animal and the Machine, The Technology
Press and John
Wiley &, Sons., Inc. Nueva York,
1948. Existen al menos dos versiones en Castellano:
Cibernética,
Guadiana de Publicaciones, Madrid, 1971, y Cibernética o el control y
comunicación en el
animal y la máquina, Tusquets, 1985.
4
sociales
de la cibernética. Este libro está dedicado a algunos aspectos de
esas
consecuencias, en cuyo examen, a pesar de que conservo las ideas y
muchos
de los comentarios que hice en Human Use of Human Beings, puedo
considerar
el asunto con mayor detalle y amplitud.
En
este empeño, deseo reconocer la gran ayuda que recibí de los
comentarios
de muchos amigos de ambos lados del Atlántico, especialmente
de
Piet Hein de Rungsted Kyst, en Dinamarca, del Dr. Lawrence Frank, de
Belmont,
Massachusetts, y del profesor Karl Deutsch, de la Universidad de
Yale,
así como de muchos otros. Además, deseo agradecer a mi secretaria,
Eva
Maria Ritter, su ayuda en la preparación de este material.
Tuve
oportunidad de elaborar mis ideas en el curso de varias conferencias
que
dicté en la Universidad de Yale en enero de 1962, y en un seminario que
tuvo
lugar en el verano de 1962 en los Colloques Philosophiques
Internationaux de Royaumont, cerca de París.3
Con
todo, este libro, aunque contiene material de mis pláticas en esos dos
lugares,
ha sido completamente reescrito y reorganizado.
Con
gratitud a los muchos que han ayudado en este esfuerzo.
NORBERT
WIENER
Sandwich,
New Hampshire, 30 de agosto de 1963
3 Véase: “El
hombre y la máquina”, en: El concepto de información en la ciencia
contemporánea, México,
Siglo XXI Editores, 1966, pp. 71-91.
5
I
No
me propongo aquí discutir la religión y la ciencia como totalidades sino
ciertos
puntos de las ciencias en las que he estado interesado ―las ciencias
de
la comunicación y el control― que me parecen cercanos a la frontera en
que
la ciencia choca con la religión. Deseo evitar esas paradojas lógicas que
habitualmente
acompañan la extrema (pero usual) pretensión de la religión
de
tratar con absolutos. Si tratáramos el conocimiento sólo en términos de
Omnisciencia,
el poder sólo en términos de Omnipotencia, el culto sólo en
términos
de Dios Único, nos encontraríamos enmarañados en artificios
metafísicos
antes de que iniciásemos nuestro estudio de las relaciones entre
la
religión y la ciencia.
A
pesar de ello, hay muchas cuestiones relativas al conocimiento, al poder
y
al culto que chocan con algunos de los más recientes desarróllos de la
ciencia,
que muy bien podríamos discutir sin pasar por esas nociones
absolutas
que están rodeadas de una emoción y reverencia tales, que
resulta
casi imposible manejadas en forma aislada. El conocimiento es un
hecho,
el poder es un hecho, y el cuIto es un hecho, y estos hechos están
sujetos
a la investigación humana, en forma completamente independiente
de
una teología aceptada. Como hechos, estas materias están sujetas a
estudio,
y en este estudio podemos hacer referencia a nuestras
observáciones
en otros campos relativas al conocimiento, al poder y al culto,
más
accesibles a los métodos de las ciencias naturales, sin demandar del
estudioso,
por lo menos, una completa aceptación de la actitud credo
quia
incredible
est 4.
Podría
decirse que empezando de esta manera, fuera de la religión, ya he
impedido
que la discusión se haga respecto a las relaciones entre la ciencia
4 “Lo creo porque
es increíble”.
6
y
la religión, como sugiere la tendencia general de este ensayo. Por lo tanto,
prefiero
definir mi tema desde el principio, especificando el ángulo de la
materia
en que pienso detenerme, y rechazando las cuestiones ajenas a mi
propósito
específico. Como he dicho, he estado trabajando por varios añós
en
problemas de comunicación y control, ya sea en máquinas, o en
organismos
vivos; sobre las nuevas técnicas de ingeniería y fisiología
conectadas
con esas nociones; y sobre el estudio de las aplicaciones de esas
técnicas
al logro de propósitos humanos. El conocimiento está
inextricablemente
interrelacionado con la comunicación, el poder con el
control
y la evaluación de los propósitos humanos con la ética y todo el
aspecto
normativo de la religión. En consecuencia, reexaminar nuestras
ideas
acerca de esas materias, con base en los últimos desarrollos de la
teoría
y la técnica práctica, resulta afín a un estudio detenido de las
relaciones
entre la ciencia y la religión. Lo que no puede constituir en sí
mismo
un estudio de la ciencia y sus relaciones con la religión, en su más
amplio
sentido, pero sin duda constituye un prolegómeno indispensable
para
tal estudio.
En
un estudio de esa especie, para llegar a alguna parte, debemos
desembarazamos
de las capas superpuestas de prejuicios que
aparentemente
usamos para cubrir la reverencia que rendimos a las cosas
respetables
y sagradas, pero en realidad siempre que ello no nos releve del
sentimiento
de indignación que experimentamos al enfrentamos a
realidades
desagradables y comparaciones peligrosas.
Para
que este ensayo tenga algún significado, debe ser una verdadera
disección
de fenómenos reales. El espíritu con que será acometido es el de la
sala
de operaciones, y no el del rito ceremonial de llanto por un difunto. El
escrúpulo
no tiene cabida aquí ―es incluso una blasfemia, como los modales
de
cabecera del elegante médico del siglo pasado, con su levita negra y los
bisturíes
ocultos bajo la solapa de seda de su abrigo.
La
religión, además de cualquier otro contenido, tiene con frecuencia algo
del
porche cerrado de una casa de campo de New England, con sus
persianas
recogidas, flores de cera bajo un fanal en la repisa de la chimenea,
en
un atril el retrato del abuelo enmarcado con juncos dorados, y un
7
armonio
en nogal negro, nunca tocado, excepto en bodas o funerales. O por
otra
parte, es la imagen moral de una carroza fúnebre napolitana, uno de
esos
carruajes reales negros con vidrieras gruesas y esmeriladas, con sus
garañones
tocados con penachos de plumas negras, llevando incluso hasta
la
muerte la afirmación del status o
en todo caso la aspiración al status. La
religión
es un asunto serio que debemos separar rigurosamente de cualquier
consideración
sobre valores personales, de menor significación que la
religión
en sí misma.
He
hablado de las capas de prejuicios que obstaculizan nuestro
acercamiento
a esos problemas en el vital campo común en el que la religión
y
la ciencia se aproximan:
Debemos evitar examinar a Dios y al hombre en el mismo
instante ―eso es blasfemia. Como Descartes, es preciso
que mantengamos la dignidad del Hombre, considerándolo
sobre bases completamente distintas de las que usamos
para estudiar a los animales inferiores. La evolución y el
origen de las especies son una profanación de los valores
humanos; y tal como lo experimentaron los primeros
darwinianos, es muy peligroso para el científico tratar con
estas ideas en un mundo básicamente receloso de la
ciencia.
Sin
embargo, incluso en el campo de la ciencia, es aventurado ir contra
las
escalas de valores establecidas:
En modo alguno es permisible mencionar al mismo tiempo
a los seres vivos y a las máquinas. Los
seres vivos lo son en
todas sus partes; mientras que las máquinas están
hechas
de metales y otras sustancias inorgánicas, sin una
fina
estructura específicamente adecuada para su función
intencional o cuasi intencional. La física ―o al
menos así
se supone por lo general― no toma en cuenta el
propósito;
y el surgimiento de la vida se presenta como algo
completamente nuevo.
8
Si
nos apegamos a todos estos tabúes, podríamos adquirir una gran
reputación
como pensadores conservadores y consistentes, pero
contribuiríamos
en muy poco al posterior avance del conocimiento. Es el
papel
del científico ―del honesto e inteligente hombre de letras, así como
también
del sacerdote honesto e inteligente― el mantener
experimentalmente
opiniones heréticas y prohibidas incluo si es para
rechazarlas
finalmente. Además, tal rechazo no debe presuponerse desde el
principio
y constituir meramente un ejercicio espiritual vacío, que se tome
desde
el principio como un simple juego, en el que se participa sólo para
mostrar
una actitud espiritual abierta. Es un asunto serio, y debe ser
acometido
con todo ahinco: ya que sólo tiene sentido si encierra un
verdadero
riesgo de herejía; y si la herejía encierra un riesgo de condenación
espiritual,
entonces ese riesgo debe ser acometido honesta y valerosamente.
En
palabras de los calvinistas: “¿Está usted dispuesto a ser condenado,
para
mayor gloria de Dios?”
En
este aspecto de crítica honesta y penetrante debemos observar una
actitud
que ya hemos mencionado, difícil de evitar en discusiones sobre
asuntos
religiosos: La evasión contenida en el seudosuperlativo. Ya he
señalado
las dificultades intelectuales que emergen de las nociones de
omnipotencia,
omnisciencia, y análogas. Tales dificultades se presentan en
su
forma más cruda en la pregunta planteada con frecuencia por el bromista
que
boicotea espontáneamente las reuniones religiosas:
―
“¿Puede Dios hacer una roca tan pesada que Él no pueda levantar?”
Si
Él no puede, hay un límite para Su poder, o por lo menos así lo parece;
y
si Él puede, esto parece constituir también una limitación a Su poder.
Es
fácil rechazar esta dificultad como una argucia verbal, pero es algo
más
que eso. La paradoja de esta cuestión es una de las muchas que giran
alrededor
de la noción de infinito, en sus múltiples acepciones. Por un lado,
la
mínima manipulación del infinito matemático introduce la noción de cero
sobre
cero, o de infinito sobre infinito, o de infinitas veces cero, o de infinito
menos
infinito. Éstas son las llamadas formas indeterminadas, y
la
dificultad
que disimulan descansa fundamentalmente en el hecho de que el
infinito
no se ajusta a las características ordinarias de un número o
9
cantidad,
de suerte que ∞/∞ para el matemático sólo indica el límite de x/y,
cuando
x e y
tienden a infinito. Dicho límite puede ser 1 si y
= x, 0
si y =
x2,
ó
∞ si y =
l/x,
y así sucesivamente.
Además,
hay otro tipo diferente de infinito que surge de la numeración.
Puede
demostrarse que esta noción también lleva a paradojas. ¿Cuántos
números
hay en el conjunto de todos los números? Puede demostrarse que
esa
pregunta no es legítima, y que aunque uno defina la noción de número,
el
número de todos los números es más grande que cualquier número. Ésta
es
una de las paradojas de Frege-Russell y encierra las complejidades de la
teoría
de conjuntos.
El
hecho es que los superlativos Omnipotencia y Omnisciencia no son
verdaderos
superlativos sino simplemente formas vagas de indicar un poder
y
un conocimiento muy grandes. Expresan un sentimiento de reverencia y
no
una proposición metafísicamente sostenible. Si Dios sobrepasa al
intelecto
humano, y no puede ser concebido mediante formas
intelectuales
―y ésta es al menos una posición sostenible― no es
intelectualmente
honesto embrutecer al intelecto mismo forzando a Dios
dentro
de formas intelectuales que deben tener un significado intelectual
muy
definido. Siendo así, cuando encontramos situaciones finitas que
parecen
arrojar luz sobre algunas de las proposiciones que normalmente se
hacen
en los libros religiosos, me parece de mala fe hacerlas a un lado
porque
no tienen el carácter absoluto, infinito y consumado que solemos
atribuir
a los asertos religiosos.
Esta
afirmación da la clave para mis propósitos en este libro. Deseo tomar
ciertas
situaciones que han sido discutidas en libros religiosos, y tienen un
aspecto
religioso, pero contienen una estrecha analogía con otras
situaciones
que pertenecen a la ciencia, y en particular a la nueva ciencia
cibernética,
la ciencia de la comunicación y el control, tanto en máquinas
como
en organismos vivos. Me propongo usar analogías limitadas de
situaciones
cibernéticas para aclarar un poco las religiosas.
Para
hacer esto, seguramente tendré que forzar en algo las situaciones
religiosas
dentro de mi armazón cibernético. Soy absolutamente consciente
de
la violencia que deberé usar al hacerlo. Mi excusa es que sólo gracias al
10
bisturí
del anatomista tenemos la ciencia anatómica, y que el bisturí del
anatomista
es también un instrumento que explora sólo haciendo violencia.
11
II
Tras
estas observaciones preliminares premítaseme volver al verdadero
tema
de este pequeño libro.
Hay
al menos tres cuestiones en la cibernética que me
parecen
pertinentes a asuntos religiosos. Una de ellas concierne a las máquinas
discentes;
otra a las máquinas que se reproducen; y otra, a la coordinación
de máquina y hombre.
Puedo
decir que la existencia de máquinas discentes es conocida. El Dr. A.
L.
Samuel, de la International Business Machines Corporation, ha diseñado
un
programa que permite a un computador jugar un juego de damas, y ese
computador
aprende, o al menos parece que aprende, a mejorar su juego
con
base en su propia experiencia.5 En
ello hay ciertos asuntos que precisan
confirmación,
o por lo menos aclaración; y a ello consagro una sección de
este
libro.
El aprendizaje es una cualidad que solemos atribuir exclusivamente a
los
sistemas autoconscientes, y casi siempre a los sistemas vivientes.
Es un
fenómeno
que se presenta en su forma más característica en el Hombre y
constituye uno de los atributos que con mayor facilidad puede
ligarse con
aquellos aspectos del Hombre que son fácilmente asociables a su vida
religiosa. En realidad, es difícil concebir cómo
cualquier ser que no aprenda
podría
relacionarse con la religión.
Sin
embargo, hay otro aspecto de la vida que está naturalmente asociado
a
la religión. A Dios se le atribuye haber hecho al hombre a Su propia imagen,
y
la propagación de la especie sólo puede interpretarse
como una función
según la cual un ser vivo hace otro a su propia imagen.
En nuestro deseo
de
5 Samuel, A. L.,
“Some Studies in Machine Learning, Using the Game of Checkers”, IBM Journal 0f Research
and Development, vol. 3, pp. 210-229
(julio, 1959).
12
glorificar
a Dios respecto al hombre y al hombre respecto a la materia,
resulta
natural suponer que las máquinas no puedan hacer otras máquinas
a
su propia imagen; que esto se asocia con una aguda dicotomía de los
sistemas
entre vivos y no vivos; y que incluso se asocia con otra dicotomía
entre
creador y criatura.
No
obstante, cabría preguntarse si las cosas son así. Dedico una sección
de
este libro a algunas consideraciones que, a mi juicio, demuestran que las
máquinas
están perfectamente capacitadas para hacer otras máquinas a su
propia
imagen. El tema sobre el que estoy tratando aquí es al mismo tiempo
muy
técnico y muy preciso. No debe ser tomado muy en serio como un
modelo
efectivo del proceso de generación biológica, y mucho menos como
un
modelo completo de la creación divina; pero tampoco puede dejarse de
tomar
en cuenta respecto a la luz que arroja sobre ambos conceptos.
Esas
dos partes de este libro de conferencias deben considerarse como
mutuamente
complementarias. El aprendizaje del individuo es un
proceso
que se da en la vida del individuo, en ontogénesis. La reproducción biológica
es un fenómeno que se da en la vida de la especie, en filogénesis, pero la
especie aprende como lo hace el individuo. La selección natural
darwiniana
es una forma de aprendizaje de la especie, que opera dentro de las
condiciores impuestas por la reproducción del individuo.
El
tercer grupo de temas de este libro está relacionado también con
problemas
de aprendizaje. Se refiere a las relaciones de la máquina con el
ser
vivo, y a sistemas que comprenden elementos de las dos clases. Como tal,
implica
consideraciones de naturaleza normativa y, más específicamente,
ética.
Concierne a algunas de las más importantes trampas morales en las
que
la presente generación de seres humanos está expuesta a caer. También
está
estrechamente conectado con un gran cuerpo de tradición y leyenda
humanas,
en el campo de la magia y temas semejantes.
Para
empezar con las máquinas discentes, un sistema organizado puede
definirse
como aquel que transforma un cierto mensaje de entrada en uno
de
salida, de acuerdo con algún principio de transformación. Si tal principio
está
sujeto a cierto criterio de validez de funcionamiento, y si el método de
transformación
se ajusta a fin de que tienda a mejorar el funcionamiento del
13
sistema
de acuerdo con ese criterio, se dice que el sistema aprende.
Un juego para ser jugado con reglas fijas, es un tipo muy simple de
sistema con un criterio de funcionamiento fácilmente descifrable en
el que
dicho criterio es el ganar exitosamente el juego de acuerdo con esas
reglas.
Entre tales juegos, los hay que tienen una teoría perfecta y carecen
de
interés. El Nim, como fue definido por Charles L. Bouton, y el Tres en Raya
6 , son ejemplos de ellos. En
estos juegos no sólo podemos encontrar
teóricamente la mejor estrategia para jugados, sino que esa
estrategia es
conocida en todos sus detalles.
El jugador de un juego de ese tipo (sea el primero o el segundo)
puede
ganar siempre, o en todo caso empatar, siguiendo la estrategia
indicada. En
teoría, cualquier juego puede ser llevado a tal condición ―ésa es la
idea del
desaparecido John von Neumann― pero, una vez que ha sido llevado a
ese
estado, pierde todo interés, y ya no puede ser considerado ni como
un
entretenimiento.
Un
ser omnisciente, como Dios, podría considerar al ajedrez y las damas
como
ejemplo de esos juegos de von Neumann, pero hasta ahora no ha sido
humanamente
lograda una teoría completa de ellos7,
y todavía representan
genuinos
retos al conocimiento y la inteligencia. A pesar de todo, no se
juegan
en la forma propuesta en la teoría de von Neumann. Esto es, no los
jugamos
haciendo el mejor movimiento posible, bajo el supuesto de que un
oponente
hará el mejor movimiento posible bajo el supuesto de que haremos
el
mejor movimiento posible, y así sucesivamente, hasta que uno de los
jugadores
gane o se declaren tablas. En realidad, el ser capaz de jugar un
juego
a la manera de von Neumann es equivalente a poseer una teoría
completa
del juego y haberlo reducido a una trivialidad.
El
tema del aprendizaje, y en particular de las máquinas que aprenden a
jugar,
podría parecer un poco alejado de la religión. Sin embargo, hay un
6 Juego conocido
también por otros nombres como: juego del gato, tatetí, trique,
tres en gallo y la vieja.
7 NOTA DE
ACTUALIZACION: Cuando Norbert Wiener escribió, esto era cierto, pero en julio
de 2007 se
encontró la resolución matemática para el juego de
damas (“checkers” en inglés), siendo su resultado el de
tablas. Es decir, si ambos contrincantes juegan
siempre la partida perfecta, en base al análisis completo y
perfecto, las tablas están garantizadas. Chinook es
el nombre del software creado por Jonathan Schaeffer que
finalmente resolvió el desarrollo de la partida hacia
el empate ineludible.
14
problema
religioso para el que esas nociones son relevantes. Es
el problema
del juego entre el Creador y una criatura. Éste es el tema del Libro de Job, así
como del Paraíso perdido.
En
ambas obras religiosas se concibe que el Demonio juega
un juego con
Dios, por el alma de Job, o las almas de los humanos en general.
Ahora bien,
de acuerdo con los puntos de vista de la ortodoxia de judíos y
cristianos, el
Demonio es una de las criaturas de Dios. Cualquier otra suposición
podría
conducir a un dualismo moral, con sabor de zoroastrismo y de esa
rama
bastarda de zoroastrismo y cristianismo que nosotros llamamos
maniqueísmo.
Pero si el Demonio es una de las criaturas de Dios, el juego que da
contenido al Libro de Job y al Paraíso perdido es un juego entre Dios y una de
sus criaturas. Un juego de esa especie parece a primera
vista una contienda
lastimosamente
desigual. Jugar un juego con un Dios omnipotente y
omnisciente
es propio de un idiota; y, como nos han enseñado, el Diablo es
un
maestro de la astucia. Cualquier sublevación de ángeles rebeldes está
predestinada
al fracaso. No vale la pena una rebelión manfrediana8 de Satán
para
probarlo. De otro modo, la omnipotencia que para confirmarse precisa
de
bombardeos celestiales de rayos, de ningún modo sería omnipotencia,
sino
simplemente un poder muy grande, y la Batalla de los Ángeles podría
haber
terminado con Satán en el trono celestial y Dios arrojado a la
condenación
eterna.
En
consecuencia, si no nos perdemos en los dogmas de omnipotencia y
omnisciencia,
la contienda entre Dios y el Demonio es real, y Dios algo
menos
que absolutamente omnipotente. Él está realmente
comprometido en
una contienda con su criatura, en la cual podría muy bien perder la
partida.
Y
además, su criatura está hecha por él de acuerdo con su propia y libre
voluntad
y al parecer deriva todas sus posibilidades de acción de Dios
mismo.
¿Puede Dios jugar un juego relevante con su propia criatura?
¿Puede
cualquier creador, incluso uno limitado, jugar un
juego relevante con
su
propia criatura?
8 Se refiere al
personaje de “Manfred”, poema dramático escrito por Lord Byron en
1816-1817.
15
Al
construir máquinas contra las que él juega juegos, el inventor se ha
arrogado
a sí mismo la función de un creador limitado, sea cual fuere la
naturaleza
del dispositivo de juego que él hubiese construido. Esto es cierto
especialmente
en el caso de las máquinas jugadoras que aprenden a través
de
la experiencia. Como ya lo he mencionado, tales máquinas existen.
¿Cómo operan esas máquinas? ¿Qué grado de éxito han alcanzado?
En lugar de operar a la manera de la teoría de juegos de Von Neumann,
lo
hacen de un modo más estrictamente análogo al procedimiento del
jugador
humano ordinario. Están sujetas, en cada etapa, a restricciones que
limitan
la elección del movimiento siguiente a uno que sea legal de acuerdo
con las
reglas del juego. Debe seleccionarse uno de estos movimientos de
acuerdo
con algún criterio normativo de buen juego.
La
experiencia del jugador humano de la partida suministra aquí un
número
de pistas útiles para la elección de ese criterio. En
las damas o en el
ajedrez es, en general, desventajoso perder piezas y ventajoso tomar
una
pieza del oponente. El jugador que conserva su movilidad y
posibilidad de
elección, así como el jugador que asegura el dominio de un gran
número de
casillas, se encuentra, usualmente, en mejores circunstancias que su
oponente que haya sido menos cuidadoso en esos aspectos.
Esos criterios de buen juego se mantienen a todo lo largo de la
partida,
pero hay otros que corresponden a etapas particulares de la misma.
Al final
de la partida, cuando las piezas son pocas y dispersas en el
tablero, se
vuelve más difícil cercar al oponente para el mate. En el inicio de
la
partida ―y éste es un factor mucho más importante en el ajedrez que
en las
damas― las piezas están dispuestas de una manera que tiende a hacerlas
inmóviles e impotentes, siendo necesario un desarrollo que les
permita una
salida, tanto para propósito ofensivos como defensivos. Además, en
razón de
la gran variedad de piezas del ajedrez, en comparación con la
pobreza de las
damas en ese aspecto: en él hay un importante número de criterios
especiales de buen juego, cuya importancia ha sido probada por
siglos de
experiencia.
Estas consideraciones pueden combinarse (ya sea en yuxtaposición o
de
alguna manera más complicada) para obtener una cifra de valuación
para el
16
siguiente movimiento que tenga que jugar la máquina. Esto puede
hacerse
de una. manera más o menos arbitraria. Después la máquina compara
las
cifras de valuación de los movimientos legalmente posibles y
selecciona
aquel al que corresponda la cifra de valuación más alta. Esto
proporciona un
camino para automatizar el siguiente movimiento.
Tal
automatización del siguiente movimiento no es necesariamente, y ni
siquiera
usualmente, una elección óptima, pero es una elección, con lo que
la
máquina puede continuar jugando. Para juzgar la validez de esta forma de
mecanización
del juego, uno debe despojarse de todas las imágenes de
mecanización
correspondientes a los dispositivos técnicos usados, o de la
imagen
física de humanidad exhibida por el jugador ordinario. Por fortuna,
ello
es fácil, y es lo que siempre hacemos en el ajedrez por correspondencia.
En
el ajedrez por correspondencia, un jugador envía los movimientos por
correo
al otro, de modo que la única conexión entre los dos jugadores es un
documento
escrito. Incluso en esta clase de ajedrez, un jugador
hábil
desarrolla pronto una imagen de la personalidad de su oponente ―es
decir,
de su personalidad ajedrecística. Sabrá si su oponente es apresurado o
cuidadoso, si es fácilmente embaucable o astuto, si capta los
garlitos del
otro jugador, o si puede ser engañado una y otra vez con la misma
estrategia
elemental. Repito, todo esto se hace sin más comunicación que el
juego
mismo de la partida.
Desde
este punto de vista, el jugador, sea hombre o máquina, que juega
mediante
una simple tabla de valuación, seleccionada de una vez por todas
e
inalterable, puede dar la impresión de una personalidad ajedrecística
rígida.
Una vez que se ha descubierto su punto flaco, se ha hecho para
siempre.
Si una estratagema en contra suya ha dado resultado una vez, lo
dará
siempre. Es suficiente un número muy pequeño de jugadas para
determinar
su técnica.
Esto
es válido también para el jugador mecanizado que no aprenda. Sin
embargo,
nada hay que impida al jugador mecanizado jugar de una manera
más
inteligente: Para ello tendría que llevar un registro de las jugadas y
partidas
anteriores. O sea que, al final de cada partida o cada secuencia de
partidas
de un tipo determinado, su mecanismo es dedicado a una clase
17
totalmente
diferente de actividad.
En el diseño de la cifra de valuación, se introducen ciertas
constantes que
pueden haber sido elegidas en forma diferente. La importancia
relativa de la
constante de control, de la de movilidad, y de la del número de piezas
podría
haber sido 10:3:2, en lugar de 9:4:4. 9 El nuevo uso de la máquina
reguladora
es el de examinar partidas ya jugadas y, en atención al éxito
obtenido,
proporcionar una cifra de valuación; no para las jugadas ya
hechas,
sino para la elección ponderada en la evaluación de esas jugadas.
De
este modo, la cifra de valuación es continuamente
reevaluada, de tal
manera que se obtenga una cifra de valuación más alta para
configuraciones
que se dan principalmente en juegos ganados y una más baja para
situaciones que se dan principalmente en partidas perdidas.
El juego puede
continuar
con esta nueva cifra de valuación, la que puede establecerse de
muchas
maneras diferentes en cuestiones de detalle. El
resultado puede ser
que la máquina jugadora de juegos se transforme continuamente a sí
misma
en una máquina diferente, de conformidad con el desarrollo del juego
real.
La
experiencia y el éxito, tanto de la máquina como de su oponente humano,
desempeñarían
un papel en ello.
En el juego contra una máquina de esa especie, que adquiere parte de
su
personalidad del juego de su oponente, dicha
personalidad puede no ser
absolutamente
rígida.
El
oponente podría encontrarse con que las estratagemas que dieron
resultado
en el pasado fallasen en el futuro. La máquina podría desarrollar
una
peligrosa sagacidad.
Podría
decirse que toda esta inteligencia inesperada de la máquina había
sido
introducida en ella por su diseñador y programador. Esto es verdadero
en
un sentido, pero no tiene por qué ser cierto que todos los nuevos hábitos
de
la máquina hayan sido explícitamente previstos por él. Si ése fuera el
caso,
él no tendría dificultad en derrotar a su propia creación. Lo que no está
de
acuerdo con la verdadera historia de la máquina de Samuel.
9 Por ejemplo,
como parte de una función de evaluación lineal: 10xControl + 3xMovilidad + 2xPiezas →
9xControl + 4xMovilidad + 4xPiezas
18
En
realidad, durante un período considerable, la máquina de Samuel fue
capaz
de derrotarlo en forma bastante consistente después de un día o más
de
estar jugando. Debe aclararse en primer lugar que
Samuel, según su
propio relato, no era un experto jugador de damas y que con un poco
de
instrucción adicional y práctica estuvo en condiciones de ganarle a
su
propia creación. Sin embargo, ello no opaca el hecho de que hubo un
momento en el que la máquina fue con mucho un vencedor consistente.
Ganó y aprendió a ganar; y el método de su aprendizaje no fue
diferente en
principio de el del ser humano que aprende a jugar damas.
Es
verdad que la elección de estrategias de que dispone la máquina
jugadora
de damas es casi con certeza más limitada de la de que dispone el
jugador
humano de damas; pero también es cierto que la elección de
estrategias
de que efectivamente dispone el jugador humano de damas no es
ilimitada.
Puede estar restringido para una elección más amplia sólo por las
limitaciones
de su inteligencia y su imaginación, pero éstas son limitaciones
muy
reales en verdad y de una especie no esencialmente diferente de las
limitaciones
de la máquina.
Así, la máquina jugadora de damas juega siempre una partida
razonablemente buena, y con un pequeño estudio adicional del final
de la
partida y un poco más de habilidad en la ejecución del coupe de grâce podría
empezar a aproximarse al nivel de maestro.
Si no fuera por el hecho de que
el
interés en el campeonato de damas ha sido ya grandemente disminuido
por
el carácter convenido de antemano del juego humano normal, la
máquina
jugadora de damas ya podría haber destruido el interés en ellas
como
un juego. No es sorprendente que la gente esté
empezando a preguntar
si el ajedrez va por el mismo camino. Y cuándo ocurrirá esa
catástrofe.
Las máquinas jugadoras de ajedrez, o máquinas para jugar al menos
una
parte apreciable de una partida de ajedrez, ya existen, pero son
comparativamente pobres. En el mejor caso no van más allá del
nivel de una
buena
partida entre aficionados sin ninguna pretensión de maestría
ajedrecística,
y muy rara vez alcanzan ese nivel.10 Esto
se debe sobre todo a
10 NOTA DE
ACTUALIZACIÓN: Desde la época en que Norbert Wiener escribió esto, el ajedrez
de la
computadora ha progresado grandemente, habiendo
llegado a niveles de juego equiparables a los de
19
la
mucho mayor complejidad del ajedrez que de las damas, tanto en cuanto
a
piezas como a movimientos, y a la mayor discriminación entre las
estrategias
adecuadas para las diversas fases de la partida. El número
relativamente
pequeño de consideraciones que se precisa para mecanizar
una
partida de damas y el bajo grado necesario de discriminación entre sus
diferentes
etapas, son totalmente inadecuados para el ajedrez.
No obstante, encuentro que es opinión general, de aquellos de mis
amigos
que son jugadores de ajedrez razonablemente versados, que los días
del
ajedrez como una ocupación humana interesante están contados.
Ellos
esperan que dentro de 10
a 25 años las máquinas ajediecistas podrán
alcanzar la categoría de maestro, y en tal caso, si los métodos
eficientes pero
más o menos mecánicos de la escuela rusa han permitido al ajedrez
sobrevivir hasta entonces, dejará de interesar a los jugadores
humanos.
Sea esto como fuere habrá muchos otros juegos que continuarán
ofreciendo un reto a la ingeniería de juegos. Dentro de ellos se
encuentra el
Go, ese juego del Lejano Oriente para el que hay 7 o más diferentes
niveles
de maestría reconocida.
Por otra parte, la guerra y los negocios son conflictos que semejan
juegos, y como tales pueden formalizarse tanto como
para constituir juegos con reglas definidas. En realidad no tengo
razones
para suponer que tales versiones formalizadas de ellos no estén
siendo
establecidas ya como modelos para determinar las políticas para
presionar
el Gran Botón e incendiar la tierra hasta arrasada en busca de un
orden de
cosas nuevo y humanamente más fiable.
En general, una máquina jugadora de juegos puede ser usada para
asegurar la operación automática de cualquier función si dicha operación
está sujeta a un criterio objetivo de validez claramente definido. En damas y
en ajedrez, esa valuación consiste en ganar la partida de acuerdo
con las
reglas aceptadas de juego permisible. Esas reglas, que son
completamente
diferentes de las máximas aceptadas de buen juego, son simples e
inexorables. Ni siquiera un niño inteligente podría
tener dudas acerca de
ellas
por más tiempo del que le toma leerlas mientras mira el tablero. Puede
campeones mundiales humanos. Ejs: la máquina Deep Blue
de IBM, y programas como Rybka, Hydra,
Hiarcs y Fritz.
20
haber
amplias dudas acerca de cómo ganar una partida pero ninguna
acerca
de si se ha perdido o ganado.
El principal criterio acerca de si una línea de esfuerzo humano
puede ser
incorporada en un juego es el de que haya un criterio objetivamente
reconocible del mérito del desempeño de ese esfuerzo. De lo
contrario, el
juego asume la misma indefinición del juego de croquet de Alicia en el País
de las Maravillas, donde las bolas eran erizos que
continuamente se
desenrollaban, los mazos eran flamencos, los arcos soldados de
cartón que
marchaban alrededor del campo, y el árbitro la Reina de Corazones
que
cambiaba las reglas a cada momento y enviaba a los jugadores al
Verdugo
para ser decapitados. Bajo tales circunstancias, ganar no tiene
sentido y no
puede aprenderse una estrategia exitosa, dado que no hay criterio
objetivo
de triunfo.
No
obstante, dado un criterio objetivo de éxito el juego del aprendizaje
puede
ser ciertamente jugado, y está más cercano a la manera como
aprendemos
a jugar juegos que la imagen de un juego dada en la teoría de
von
Neumann. La técnica del juego del aprendizaje es incuestionablemente
aplicable
en muchos campos del esfuerzo humano que todavía no han sido
sometidos
a ella. Sin embargo, como veremos después, la determinación de
un
“test” agudo de buen funcionamiento trae muchos problemas relativos a
juegos
de aprendizaje.
21
III
El
aprendizaje al que hemos estado aludiendo hasta ahora es el
aprendizaje
del individuo, el cual ocurre dentro del lapso de su vida privada
individual.
Existe otro tipo de aprendizaje de igual importancia ―el
aprendizaje
filogenético, o aprendizaje en la historia de la especie. Éste es el
tipo
de aprendizaje para el cual Darwin, en su teoría de la selección natural,
estableció
un tipo de bases.
Las
bases de la selección natural descansan en tres hechos. El primero de
ellos
es que existe un fenómeno tal como el de la herencia: que una planta o
animal
individual produce una descendencia de acuerdo con su propia
imagen.
El segundo es que estos descendientes no están completamente de
acuerdo
con su propia imagen, sino que pueden diferir de ella en formas
también
sujetas a la herencia. Éste es el hecho de la variación, y en modo
alguno
implica la muy dudosa herencia de características adquiridas. El
tercer
elemento de la evolución darwiniana es que la sobrecargada pauta de
la
variación espontánea es ajustada por la diferencia en la viabilidad de
diferentes
variaciones, la mayor parte de las cuales tienden a disminuir la
probabilidad
de la existencia continuada de la especie, aunque algunas de
ellas,
quizá muy pocas, tienden a incrementarla.
Las
bases de la supervivencia racial y del cambio racial ―o evolución,
como
la llamamos― pueden ser mucho más complicadas que eso, y
probablemente
lo son. Por ejemplo, un tipo muy importante de variación es
la
variación de un orden mayor: la variación de la variabilidad. De nuevo, el
mecanismo
de la herencia y la variación generalmente comprenden los
procesos
descritos funcionalmente por Mendel y estructuralmente por el
fenómeno
de la mitosis: los procesos de la duplicación de genes y su
separación,
de su agregación en cromosomas, del encadenamiento, y los
demás.
22
En
todo caso, detrás de toda esta concatenación de procesos
fantásticamente
compleja se encuentra un hecho muy simple: que en
presencia
de un medio nutritivo adecuado de ácidos nucleicos y
aminoácidos,
una molécula de un gen, la cual, a su vez, está formada por
una
combinación muy específica de aminoácidos y ácidos nucleicos, puede
inducir
el medio para establecerse en otras moléculas, que son moléculas
del
mismo gen o bien de otros genes que difieren de él por variaciones
relativamente
pequeñas. De hecho se ha pensado que este proceso es
estrictamente
análogo a aquel conforme al cual una molécula de un virus,
una
especie de parásito molecular de un anfitrión, puede juntar otras piezas
moleculares
para sí mismo, a partir de los tejidos del anfitrión que opera
como
un medio nutriente. Este acto de multiplicación molecular, ya sea de
gen
o de virus, parece representar una etapa final del análisis del vasto y
complicado
proceso de la reproducción.
El
hombre puede hacer hombres a su propia imagen. Esto parece ser el
eco
o el prototipo del acto de creación, por el cual se supone que Dios creó el
hombre
a Su imagen. ¿Puede ocurrir algo similar en el caso menos
complicado
(y acaso más comprensible) de los sistemas inertes que
llamamos
máquinas?
¿Qué
es la imagen de una máquina? ¿Puede esta imagen, encarnada en
una
máquina, llevar a una máquina de una especie general, no sometida
aún
a una identidad específica particular, a reproducir la máquina original,
ya
sea absolutamente o conforme a cierto cambio que puede considerarse
como
una variación? ¿Puede la nueva y variada máquina misma actuar
como
un arquetipo, incluso como sus propias desviaciones de su propia
pauta
arquetípica?
El
propósito de la presente sección es responder estas preguntas y
responderlas
con un “sí”. El valor de lo que voy a decir aquí, o más bien de lo
que
he dicho en otras partes de una manera más técnica11 y de lo que vaya
esbozar
aquí, es el de lo que los matemáticos llaman una prueba
de
existencia.
Daré un método de acuerdo con el cual las máquinas pueden
reproducirse
a sí mismas. No diré que éste es el único método con el que
11 Cybernetics, The M. I. T. Press
y John Wiley & Sons., Inc. Nueva
York, Londres. 2ª ed., capítulo IX, 1961.
23
puede
darse la reproducción, porque no lo es; ni siquiera que es la forma en
que
ocurre la reproducción biológica, porque ciertamente tampoco lo es. Sin
embargo,
independientemente de lo diferentes que puedan ser la
reproducción
mecánica y la biológica, se trata de procesos paralelos, que
llegan
a resultados similares; y una descripción de uno de ellos puede muy
bien
producir sugerencias significativas para el estudio del otro.12
A
fin de discutir con conocimiento de causa el problema de una máquina
que
construye otra a su propia imagen, debemos precisar más la noción de
imagen.
Al respecto, debemos tener presente que hay imágenes e imágenes.
Pigmalión
hizo la estatua de Galatea a la imagen de su ideal amado, pero
después
de que los dioses la trajeron a la vida, se volvió una imagen de su
ideal
amado en un sentido mucho más real. Ya no fue simplemente una
imagen
gráfica sino una imagen operativa.
Un
torno de reproducción puede hacer una imagen de un modelo de una
caja
de fusil, que puede utilizarse para uná caja de fusil, pero esto se debe
simplemente
a que la función que cumple una caja de fusil es muy simple.
Por
otra parte, un circuito eléctrico puede cumplir una función
relativamente
compleja, y su imagen, reproducida por una prensa que
utilice
tintas metálicas, puede funcionar como el circuito que representa.
Estos
circuitos impresos se pusieron muy en boga en las técnicas de la
ingeniería
eléctrica moderna.
En
consecuencia, además de imágenes gráficas, podemos tener imágenes
operativas.
Estas imágenes operativas, que cumplen las funciones de su
original,
pueden o no tener un parecido gráfico con él. Lo tengan o no,
pueden
remplazar al original en su acción, y ésta es una semejanza mucho
más
profunda. Estudiaremos la posible reproducción de máquinas desde el
punto
de vista de la semejanza operativa.
Sin
embargo ¿qué es una máquina? Desde un punto de vista, podemos
considerar
una máquina como un primer motor, como una fuente de energía.
En
este libro no adoptaremos ese punto de vista. Para nosotros, una
máquina
es un dispositivo para convertir mensajes de entrada en mensajes
12 La pauta de
reproducción de genes por el desdoblamiento de una doble espiral de ADN
necesita
complementarse con una adecuada dinámica para ser
completa.
24
de
salida. Un mensaje, desde este punto de vista, es una secuencia de
cantidades
que representan señales en el mensaje. Tales cantidades pueden
ser
corrientes o potenciales eléctricos, pero no se reducen a éstos, y en
realidad
pueden ser de naturaleza muy diferente. Más aún, las señales
componentes
pueden distribuirse continua o discretamente en el tiempo.
Una
máquina transforma cierto número de tales mensajes de entrada en
cierto
número de mensajes de salida y cada mensaje de salida depende en
cualquier
momento de los que hayan entrado hasta entonces. Como diría el
ingeniero
en su jerga, una máquina es un transductor de entrada múltiple y
salida
múltiple.
La
mayor parte de los problemas que consideraremos aquí no son muy
diferentes
o mucho más diferentes que los que surgen en transductores de
entrada
simple y salida simple. Esto podría sugerir a los ingenieros que
estamos
tratando un problema que ya conocen muy bien: el problema
clásico
del circuito eléctrico y su impedancia o admitancia o su relación de
voltaje.
Esto,
sin embargo, no es exactamente así. Impedancia y admitancia y
relación
de voltaje son nociones que pueden usarse con alguna precisión
sólo
en el caso de circuitos lineales: esto es, de circuitos para los que la
adición
de entradas, como serie en el tiempo, corresponde a la adición de las
salidas
respectivas. Éste sería el caso de resistencias puras, capacitancias
puras
e inductancias puras, y de circuitos compuestos exclusivamente de
estos
elementos, conectados de acuerdo con las leyes de Kirchhoff. Para
éstos,
la entrada apropiada para probar el circuito es un potencial de
entrada
que oscila trigonométricamente y que puede variar en frecuencia y
determinarse
en fase y amplitud. La salida, entonces, será también una
secuencia
de oscilaciones de la misma frecuencia, y el circuito o transductor
puede
caracterizarse cabalmente al compararla con la entrada en amplitud
y
fase.
Si
un circuito es no lineal, si, por ejemplo, contiene rectificadores o
limitadores
de voltaje u otros dispositivos semejantes, la entrada
trigonométrica
no será una entrada de prueba adecuada. En este caso, una
entrada
trigonométrica no producirá en general una salida trigonométrica.
25
Más
aún, estrictamente hablando, no hay circuitos lineales, sino sólo
circuitos
con una mayor o menor aproximación a la linealidad.
La
entrada de prueba que seleccionamos para el análisis de circuitos no
lineales
―y que también puede utilizarse en circuitos lineales― es de
naturaleza
estadística. Teóricamente, a diferencia de la entrada
trigonométrica
que debe variarse en toda la gama de frecuencias, un
conjunto
estadístico único de entradas puede usarse para todos los
transductores.
Se conoce como el “efecto disparo”. Los generadores del
“efecto
disparo” son aparatos bien definidos, que existen físicamente como
instrumentos,
y pueden solicitarse con base en los catálogos de varias
empresas
fabricantes de instrumentos eléctricos.13
La
salida de un transductor excitado por un mensaje de entrada dado es
un
mensaje que depende al mismo tiempo del mensaje de entrada y del
transductor
mismo. Bajo las circunstancias más usuales, un transductor es
un
modo de transformar mensajes, y nuestra atención se dirige al mensaje
de
salida como una transformación del mensaje de entrada. Sin embargo,
existen
circunstancias, que surgen principalmente cuando el mensaje de
entrada
lleva el mínimo de información, en las que podemos concebir que la
información
del mensaje de salida se debe principalmente del transductor
mismo.
No es posible concebir mensaje de entrada alguno que contenga
menos
información que el flujo aleatorio de electrones que constituyen el
“efecto
disparo”. En consecuencia, la salida de un transductor estimulado
por
un “efecto disparo” aleatorio puede concebirse como un mensaje que
encarna
la acción del transductor.
De
hecho, ella encarna la acción del transductor para cualquier mensaje
de
entrada posible. Esto se debe al hecho de que en un tiempo finito, hay
una
probabilidad finita (aunque pequeña) de que el “efecto disparo” simule
13 Permítaseme
explicar aquí qué es un flujo de “efecto disparo” de electricidad. La
electricidad no fluye
continuamente sino en un flujo de partículas cargadas,
cada una de las cuales tiene la misma carga. En
general, éstas no fluyen a intervalos fijos, sino con
una distribución aleatoria en el tiempo, que superpone, al
flujo estable, fluctuaciones que son independientes
para intervalos de tiempo no traslapados. Esto produce
un ruido con una distribución uniforme de frecuencias.
Lo que a menudo constituye una desventaja y limita
la capacidad de la línea para llevar mensajes. Sin
embargo existen casos, como el presente, en que esas
irregularidades son justamente las que queremos
producir, y hay dispositivos comerciales para producirlas.
Se conocen como generadores de efecto disparo.
26
cualquier
posible mensaje dentro de cualquier grado finito dado de precisión.
En
consecuencia, las estadísticas del mensaje que sale de un transductor
dado,
sometido a una entrada de “efecto disparo” estadístico estandarizada
dada,
constituyen una imagen operativa del transductor, y es perfectamente
concebible
que puedan usarse para reconstituir un transductor equivalente,
en
otra encarnación física. Es decir, si sabemos cómo responderá un
transductor
a una entrada de “efecto disparo”, sabemos ipso
facto cómo
responderá
a cualquier entrada.
El
transductor ―la máquina: como instrumento y como mensaje― sugiere
entonces
la especie de dualidad tan cara al físico, y ejemplificada por la
dualidad
entre onda y partícula. De nuevo, apunta a la alternancia biológica
de
generaciones que se expresa en el bon mot ―no
recuerdo si de Bernard
Shaw
o de Samuel Butler― de que una gallina es simplemente el
procedimiento
que utiliza un huevo para hacer otro huevo. La lombriz del
hígado
de la oveja es simplemente otra fase de una especie de parásitos que
infecta
a ciertos caracoles de charca. Así la máquina puede generar el
mensaje
y el mensaje puede generar otra máquina.
Se
trata de una idea con la que he jugado en el pasado ―la de que es
conceptualmente
posible enviar a un ser humano a través de una línea
telegráfica.
Permítaseme decir que las dificultades exceden con creces mi
ingenio
para superadas, y que no me proponga agregar otro a los actuales
apuros
de los ferrocarriles convirtiendo a la American Telephone and
Telegraph
Company en un nuevo competidor. En el momento actual, y acaso
durante
la existencia toda de la raza humana, la idea es impracticable, pero
no
por eso es inconcebible.
Independientemente
de las dificultades de llevar esta noción a la práctica
en
el caso del hombre, es un concepto íntegramente realizable en el caso de
las
máquinas de un grado menor de complejidad hechas por el hombre. Esto
es
precisamente lo que propongo como método según el cual los
transductores
no lineales pueden reproducirse a sí mismos. Los mensajes
en
los que la función de un transductor dado puede englobarse, también
englobarán
todos aquellos englobamientos de un transductor con la misma
imagen
operativa. Entre éstos hay por lo menos un englobamiento con cierta
27
clase
especial de estructura mecánica, y es este englobamiento el que
propongo
reconstruir del mensaje que lleva la imagen operativa de la
máquina.
Al
describir el englobamiento, particular que escogería para el modelo
operativo
de la máquina por reproducir, también describo el carácter formal
del
modelo. Para que esta descripción sea algo más que una vaga fantasía,
debe
expresarse en términos matemáticos, y las matemáticas no son un
lenguaje
comprensible para el lector medio al que se destina este libro. Por
tanto,
debo olvidar la precisión en este caso. Ya he expresado estas ideas en
lenguaje
matemático, 14 por lo que ya he cumplido mi deber con el
especialista.
Si dejara así las cosas, habría hecho mucho menos que cumplir
mi
deber con el lector para cuyos ojos se destina este libro. Parecería que he
afirmado
sólo algunas reivindicaciones posiblemente vacías. Por otra parte,
una
presentación completa de mis ideas aquí sería enteramente fútil. En
consecuencia,
me reduciré en este libro a hacer una paráfrasis tan buena
como
pueda de las matemáticas que constituyen el verdadero meollo del
asunto.
Aun
así, temo que las siguientes páginas constituirán un camino
escabroso.
Para aquellos que quieren evitar a cualquier costo ir por caminos
escabrosos,
debo advertirles que omitan esta parte del texto. La estoy
escribiendo
sólo para aquellos cuya curiosidad es suficientemente intensa
como
para inducirlos a leer a pesar de tales advertencias.
14 Cybernetics, The M. I. T.
Press y John Wiley & Sons., Inc., Nueva York, 2ª ed., capítulo IX, 1961.
28
IV
Lector,
ha recibido ya la advertencia reglamentaria, y cualquier cosa que
diga
en contra del siguiente texto podrá utilizarse contra usted.
Es
posible multiplicar una máquina, digamos, un transductor lineal, por
una
constante y sumar dos máquinas. Recuérdese que asumimos que la
salida
de una máquina fuese un potencial eléctrico, el cual podemos
suponer
que se lea en un circuito abierto, si aprovechamos los dispositivos
modernos
que se conocen como seguidores de cátodo. Con el uso de
potenciómetros
y/o transformadores, podemos multiplicar la salida de un
transductor
por cualquier constante, positiva o negativa: Si tenemos dos o
más
transductores separados, podemos- sumar sus potenciales de salida
con
la misma entrada arreglándolos en serie, y entonces obtenemos un
dispositivo
compuesto, con una salida que es cualquier suma de las salidas
de
sus, partes componentes, cada una de las cuales tendría un coeficiente
positivo
o negativo apropiado.
En
consecuencia, podemos introducir en el análisis y síntesis de
máquinas
las nociones familiares de desarrollos polinómicos y series. Estas
nociones
resultan familiares en el caso de los desarrollos trigonométricos y
las
series de Fourier. A fin de dar una forma estándar para la realización, y,
consecuentemente,
para la duplicación de una imagen operativa, aún falta
dar
un repertorio apropiado de transductores capaces de formar tales series.
Se
sabe que existe un repertorio estándar de máquinas elementales tal
que
puede representar aproximadamente a todas las máquinas existentes
con
cierto grado de precisión, en un sentido apropiado. Describir esto en
forma
matemática es una labor de cierto grado de complejidad; mas para
beneficio
del matemático extraviado que acaso lea con cuidado estas
páginas,
debo decir que para cualquier mensaje de entrada estos
dispositivos
arrojan productos de los polinomios de Hermite en los
29
coeficientes
de Laguerre del pasado de la entrada. Esto es realmente tan
específico
y tan complicado como suena.
¿Dónde
es posible obtener estos dispositivos? Temo que por ahora no sea
posible
obtenerlos como dispositivos ya fabricados en una tienda de
materiales
eléctricos; sin embargo, pueden construirse siguiendo
especificaciones
precisas. Los componentes de estos dispositivos son, en
primer
término, resistores, condensadores e inductores, componentes
habituales
de los aparatos lineales. Junto con ellos, a fin de obtener
linealidad,
necesitamos multiplicadores que tomen dos potenciales como
entradas
y arrojen un potencial, que sea producto de los dos. Tales
dispositivos
están a la venta en el mercado, y si son ligeramente más caros
de
lo que quisiéramos en vista del número que necesitamos, el desarrollo de
la
invención quizá pueda hacer bajar el precio; y sobre todo, el gasto no es
una
consideración del mismo orden que la posibilidad. Un dispositivo de
esta
especie en extremo interesante, que trabaja sobre principios de
cristales
piezoeléctricos, fue hecho en el laboratorio del profesor Dennis
Gabor,15 del Imperial College of Science and Technology. Lo
usó para un
dispositivo
que es en muchos sentidos distinto del que he indicado, pero que
se
usa también para el análisis y síntesis de máquinas arbitrarias.
Volviendo
a los dispositivos particulares que he mencionado, tienen tres
propiedades
que los hacen adecuados para el análisis y la síntesis de la
máquina
en general. Para comenzar, son un conjunto cerrado de máquinas.
Es
decir, combinándolas con coeficientes apropiados, podemos
aproximarnos
a cualquier máquina en cualquier caso. En consecuencia,
pueden
ser tan proporcionadas que sean normales, en el sentido de que
para
un impulso aleatorio cuya fuerza estadística sea la unidad, darán
salidas
cuya fuerza estadística será la unidad. Finalmente, son ortogonales.
Esto
significa que si tomamos cualquiera de las dos, le damos la misma
entrada
de “efecto disparo” estandarizada, y multiplicamos sus salidas, el
producto
de estas salidas, promediado sobre las estadísticas del “efecto
disparo”
de todas las entradas, será igual a cero.
15 Gabor, D.,
“Electronic Inventions and Their Impact on Civilization”, Inaugural Lecture,
3 de marzo de 1959,
Imperial College of
Science and Technology, Universidad de Londres, Inglaterra.
30
Al
desarrollar una máquina en esta forma, el análisis es tan fácil como la
síntesis.
Supongamos que tenemos una máquina en la forma de una “caja
negra”,
esto es, una máquina que realiza una operación definida y estable
(que
no cae en la oscilación espontánea), pero con una estructura interna
inaccesible
a nosotros, y que no conocemos. Tengamos también una “caja
blanca”,
o una máquina de estructura conocida, que representa uno de los
términos
en el desarrollo de la "caja negra". Si entonces las dos cajas tienen
conectados
sus terminales de entrada al mismo generador de “efecto
disparo”,
y sus terminales de salida están conectados a un multiplicador
que
multiplica sus salidas, el producto de sus salidas, promediado sobre
toda
la distribución del “efecto disparo” de su entrada común constituirá los
coeficientes
de la caja blanca en el desarrollo de la caja negra como la suma
de
todas las cajas blancas con coeficientes apropiados. Obtener esto es
aparentemente
imposible, ya que parece que involucraría el estudio del
sistema
para toda la gama estadística de las entradas de “efecto disparo”.
Sin
embargo, existe un accidente importante que nos permite evadir esta
dificultad.
Hay un teorema en física matemática que nos permite en ciertos
casos
remplazar promedios sobre distribuciones con promedios de tiempo,
no
en cualquier caso específico, sino en un conjunto de casos con
probabilidad
1. En el caso particular del “efecto disparo”, se puede probar
rigurosamente
que las condiciones para la validez de este teorema se
cumplen.
En consecuencia, podemos remplazar el promedio sobre la
totalidad
del conjunto de los “efectos disparo” posibles, necesario para
obtener
el coeficiente de la caja blanca en el desarrollo de la caja negra, por
un
promedio en el tiempo, y obtendremos el coeficiente correcto con
probabilidad
1. Esto, aunque no es teóricamente una certidumbre, en la
práctica
es equivalente a una certidumbre. Para ello, necesitamos ser
capaces
de tomar un promedio en el tiempo de un potencial.
Afortunadamente
son bien conocidos y fáciles de obtener los aparatos para
la
obtención de tales promedios en el tiempo. Están formados solamente de
resistores,
capacitores y dispositivos para medir potenciales. Por tanto,
nuestro
tipo de sistema es igualmente útil para el análisis y la síntesis de
máquinas.
Si lo usamos para el análisis de máquinas y luego usamos el
mismo
aparato para la síntesis de una máquina de acuerdo con este análisis,
31
habremos
reproducido la imagen operativa de la máquina.
A
primera vista, esto parece incluir la intervención humana. Sin embargo,
es
fácil ―mucho más fácil que el análisis y la síntesis mismos― conseguir
que
las lecturas del análisis no aparezcan como medidas en una escala sino
como
los ajustes de cierto número de potenciómetros. Por lo tanto, en la
medida
en que el número de términos disponible y la precisión de las
técnicas
de ingeniería lo permiten, habremos logrado que una caja negra
desconocida,
mediante su propia operación, transfiera su patrón de
operación
a una caja blanca compleja, capaz inicialmente de asumir
cualquier
patrón de acción. Esto es de hecho muy similar a lo que ocurre
en
el
acto fundamental de la reproducción de la materia viva. Aquí, también, un
sustrato
capaz de asumir un gran número de formas, estructuras
moleculares
en este caso, es llevado a asumir una forma particular por la
presencia
de una estructura ―una molécula― que ya posee esta forma.
Cuando
he presentado esta discusión de sistemas que se multiplican a sí
mismos
a filósofos y bioquímicos, he enfrentado la siguiente expresión:
“¡Pero
los dos procesos son completamente diferentes!
Cualquier
analogía entre lo vivo y lo inerte debe ser
puramente
superficial. Desde luego, se conocen los
detalles
del proceso de multiplicación biológica, y nada
tiene
que ver con el proceso que usted menciona para la
multiplicación
de máquinas. Por una parte, las
máquinas
están hechas de acero y cobre, cuya más fina
estructura
química nada tiene que ver con sus
funciones
como partes de una máquina. La materia viva,
sin
embargo, está viva hasta en sus partes más finas,
que
la caracterizan como la misma especie de materia
-las
moléculas. Por tanto, también, la multiplicación de
la
materia viva ocurre por un proceso de modelo
arquetípico
bien descrito, en el cual los ácidos nucleicos
determinan
la colocación de la cadena de aminoácidos,
y
esta cadena es doble y consiste en un par de espirales
complementarias.
Cuando éstas se separan, cada cual
32
atrae
hacia sí los residuos moleculares necesarios para
reconstituir
la doble espiral de la cadena original”
Es
claro que el proceso de reproducción de la materia viva es distinto en
sus
detalles del proceso de reproducción de las máquinas que he esbozado.
Como
se indica en el trabajo de Gabor, que ya he mencionado, existen otras
formas
de hacer que una máquina se reproduzca a sí misma, y éstas, que
son
menos rígidas que las que he presentado, encierran probablemente una
semejanza
mayor con el fenómeno de la multiplicación en la vida.
Ciertamente,
la materia viva tiene una estructura fina más adecuada a su
función
y multiplicación que la de las partes de una máquina no viva,
aunque
esto puede no ser también el caso para las máquinas más nuevas
que
operan con los principios de la física del estado sólido.
Sin
embargo, aun los sistemas vivos no lo son (con toda probabilidad) por
debajo
del nivel molecular. Además: con todas las diferencias entre los
sistemas
vivos y los mecánicos usuales, resulta presuntuoso negar que
sistemas
de una especie puedan arrojar cierta luz sobre los sistemas de otra.
Una
situación en que éste bien puede ser el caso es la de la mutua
convertibilidad
de la estructura espacial y funcional, por una parte, y de
mensajes
en el tiempo, por la otra. La descripción de la reproducción como
basada
en una “plantilla” evidentemente no es toda la historia. Debe haber
alguna
comunicación entre las moléculas de genes y los residuos que se
pueden
encontrar en el fluido nutriente, y esta comunicación debe tener
alguna
dinámica. Encaja perfectamente en el espíritu de la física moderna
suponer
que fenómenos de campo de una naturaleza radiativa median la
dinámica
de tal comunicación. No estaría bien afirmar categóricamente que
los
procesos de reproducción en la máquina y en el ser vivo nada tienen en
común.
Pronunciamientos
de este tipo, a menudo parecen menos riesgosos a las
mentes
prudentes y conservadoras que afirmaciones temerarias de analogía.
Sin
embargo, si es peligroso afirmar que existe una analogía
fundamentándonos
en evidencias insuficientes, es igualmente peligroso
rechazar
una sin pruebas de su falta de congruencia. La honestidad
intelectual
no es equivalente a la negativa a asumir un riesgo intelectual, e
33
incluso
la negativa a considerar que lo nuevo y emocionalmente perturbador
carece
de mérito ético particular.
Porque
la idea de que la supuesta creación del hombre y los animales por
Dios,
el engendramiento de los seres vivos de acuerdo con su clase, y la
posible
reproducción de máquinas, forman parte del mismo orden de
fenómenos,
es emocionalmente perturbadora, tal como las
especulaciones
de
Darwin acerca de la evolución y el origen del hombre fueron
perturbadoras.
Si fue una ofensa contra nuestro propio orgullo el que se nos
comparase
con un simio, ahora ya nos hemos repuesto de ello; y es una
ofensa
aún mayor ser comparado con una máquina. A cada una de estas
sugerencias,
en sus respectivas épocas, se vincula una reprobación
semejante
a la que en épocas anteriores se vinculó al pecado de brujería.
Ya
he mencionado la herencia de la máquina y la evolución natural de
Darwin
a través de la selección natural. En cuanto a la genética que hemos
relacionado
con la máquina como la base de una especie de evolución a
través
de la selección natural, debemos explicarla por variación y por la
herencia
de variaciones. Sin embargo, del tipo de genética de máquina que
suponemos
permite las dos. La variación ocurre en la imprecisión de la
realización
del proceso de copia que hemos discutido, mientras que la
máquina
copiada que se ejemplificó en nuestra caja blanca está ella misma
disponible
como arquetipo para posteriores copias.
Realmente,
mientras que en el copiado original de una fase la copia se
parece
a su original en imagen operativa, pero no en apariencia, en la etapa
siguiente
de copiado se preserva la estructura espacial, y la réplica es una
réplica
también de ésta.
Queda
claro que el proceso de copiado puede utilizar la primera copia
como
un nuevo original. O sea que se preservan las variaciones en la
herencia,
aunque estén sujetas a variación posterior.
34
V
He dicho que la reprobación vinculada en los tiempos antiguos al
pecado
de brujería se vincula actualmente en muchas mentes a las
especulaciones
de la cibernética moderna. Sin temor a equivocarme, si hace
doscientos
años un experto hubiera pretendido hacer máquinas que aprendieran a
jugar juegos o que se reprodujeran a sí mismas, seguramente hubiera
tenido
que vestir el sambenito, el hábito que llevaban las víctimas de la
Inquisición,
y hubiera sido entregado al brazo seglar16, con la orden de que no
hubiera
derramamiento de sangre; desde luego, eso sí, a menos que hubiera
podido
convencer a algún importante personaje de que podía trasmutar los
metales
básicos en oro, como el rabino Lüw de Praga, que proclamaba que sus
encantamientos inyectaban un soplo de vida al Golem de barro, y
persuadió
al emperador Rodolfo. Porque, aún ahora, si un inventor pudiese
probar a
una compañía de computadoras que su magia les sería útil, podría
practicar
sus hechizos desde ahora hasta el día del juicio final, sin el menor
riesgo
personal.
¿Qué
es la brujería y por qué se la condena como un pecado? ¿Por qué
causa
tanta desaprobación esa estúpida mojiganga de la misa negra?
La
misa negra debe entenderse desde el punto de vista del creyente
ortodoxo.
Para los demás, es una ceremonia carente de significado aunque
obscena.
Quienes participan en ella están mucho más cerca de la ortodoxia
de
lo que pensamos la mayoría de nosotros. El elemento principal de la misa
negra
es el dogma cristiano normal de que el sacerdote realiza un milagro
real,
y que los elementos de la eucaristía se convierten en la verdadera
sangre
y cuerpo de Cristo.
El
cristianismo ortodoxo y el brujo están de acuerdo en que después de
16 Cuando el
delito del reo resultaba evidente, la Inquisición lo declaraba culpable, y lo
entregaba al brazo
seglar, o brazo
secular, es decir, a la justicia ordinaria de la nación, la cual, a tenor
de sus leyes, aplicaba la
sentencia. Las penas eran las comunes en aquella época
para los demás criminales.
35
que
se ha realizado el milagro de la consagración de la hostia, los divinos
elementos
son capaces de realizar otros milagros. Están de acuerdo, además,
en
que el milagro de transubstanciación puede ser realizado solamente por
un
sacerdote debidamente ordenado. Más aún, están de acuerdo en que tal
sacerdote
nunca perderá el poder de realizar el milagro, aunque si es
secularizado
lo realiza con el peligro cierto de condenación.
Conforme
a estos postulados, resulta completamente natural que algún
alma,
réproba pero ingeniosa, haya concebido la idea de ejercer su
influencia
sobre la hostia mágica y utilizar sus poderes para su ventaja
personal.
Es en esto, y no en impías orgías, en lo que consiste el pecado
fundamental
de la misa negra. La magia de la hostia es intrínsecamente
buena:
su desviación a otros fines que la mayor gloria de Dios es un pecado
mortal.
Éste
fue el pecado que la Biblia atribuyó a Simón Mago, por negociar con
San
Pablo por los poderes milagrosos de los cristianos17. Puedo imaginarme
perfectamente
la confusa pesadumbre del pobre hombre cuando descubrió
que
estos poderes no estaban en venta, y que Pablo se negó a aceptar lo que
era,
en la mente de Simón, un trato honorable, aceptable y natural.
Se
trata de una actitud con la cual la mayor parte de nosotros se ha enfrentado
cuando
nos hemos negado a vender una invención en las condiciones
realmente
halagüeñas ofrecidas por algún moderno capitán de industria.
Sea
como fuese, la Cristiandad ha considerado siempre la simonía como
un
pecado, es decir, la compra y la venta de los oficios de la iglesia y los
poderes
sobrenaturales que ellos implican. Es más, Dante la coloca entre los
peores
pecados, y confina al fondo del infierno a algunos de los más notorios
practicantes
de la simonía en sus tiempos. Sin embargo, la simonía fue un
vicio
habitual y dominante en el mundo altamente eclesiástico en que vivió
Dante,
y naturalmente se ha extinguido en el mundo actual, más
racionalista
y racional.
Se
ha extinguido! Se ha extinguido. ¿Se ha extinguido? Quizá los poderes
de
la edad de la máquina no son verdaderamente sobrenaturales, pero al
17 O “Simón el
Mago”, llamado también “Simón de Gitta”. De su propuesta deriva la palabra
“simonía”, que
designa el pecado consistente en pagar por obtener
prebendas o beneficios eclesiásticos.
36
menos
parecen estar por encima del curso ordinario de la naturaleza para el
hombre
de la calle. Quizá ya no consideramos que nuestro deber consista en
dedicar
estos grandes poderes a la mayor gloria de Dios, pero aún nos
parece
impropio dedicarlos a propósitos vanos y egoístas. Hay un pecado,
que
consiste en el uso de la magia de la automatización moderna para
aumentar
las utilidades personales o para desatar los terrores apocalípticos
de
la guerra nuclear. Si este pecado tuviera que tener un nombre, dejemos
que
sea el de simonía o brujería.
Creamos
o no en Dios y su mayor gloria, no todas las cosas nos resultan
igualmente
permitidas. Aunque Adolfo Hitler pensara de otro modo, no
hemos
llegado aún al pináculo de la indiferencia moral sublime que nos
coloque
más allá del bien y del mal. Y precisamente mientras retengamos
una
huella de discriminación ética, el uso de grandes poderes para
propósitos
bajos constituirá un equivalente moral total de la brujería y la
simonía.
Mientras sea posible hacer un autómata, sea de metal o meramente en
principio, el estudio de su construcción y su teoría es una fase
legítima de la
curiosidad humana, y la inteligencia humana se estultifica cuando el
hombre establece límites fijos a su curiosidad. Sin embargo, hay
aspectos de
las razones de la automatización que van más allá de una curiosidad
legítima y son pecaminosos en sí mismos. Pueden ejemplificarse en el
tipo
particular de ingeniero y administrador de ingeniería que
designaremos con
el nombre de adorador de
artificios.
Estoy
completamente familiarizado con los adoradores de artificios en mi
propio
mundo, con sus lemas de libre empresa y de en economía motivada
por
el lucro. Pueden existir y existen en ese mundo de detrás del espejo en el
que
los lemas son la dictadura del proletariado, marxismo y comunismo.
El poder y la búsqueda del
poder desgraciadamente son realidades que pueden
tomar muchas apariencias. Entre los devotos sacerdotes del poder,
hay
muchos que ven con impaciencia las limitaciones de la humanidad, y
en
particular la limitación que consiste en que el hombre no es
predecible ni
confiable. Es posible conocer mentes dominantes de este tipo por los
subordinados que escogen. Son mansos, autodisminuidos e íntegramente
a
37
su disposición; y por ello son generalmente ineficientes cuando
dejan de ser
miembros a la disposición de su cerebro. Pueden ser muy industriosos
pero
tienen poca iniciativa independiente ―los eunucos del harén de ideas
al que
se desposa su sultán.
Además
del motivo de admiración que el adorador de artificios encuentra
en
el hecho de que las máquinas no tengan las limitaciones humanas en
cuanto
a velocidad y precisión, hay un motivo que es más difícil de
establecer
en cualquier caso concreto, pero que, no obstante, debe
desempeñar
un papel muy importante.
Es el deseo de evitar la responsabilidad personal de una decisión
peligrosa o desastrosa, colocando la responsabilidad en otra parte: en el azar,
en los superiores humanos
cuyas políticas no es posible desafiar o en un dispositivo mecánico
que no es
posible entender completamente pero cuya objetividad se da por
supuesta.
Por
esto los náufragos echan suertes para determinar a cuál de ellos se
comerán
primero. A esto confió el difunto Eichmann su hábil defensa. Es
esto
lo que lleva a que haya algunos cartuchos vacíos entre los cartuchos
con
bala que se proporcionan a un pelotón de fusilamiento. Esta será sin
duda
alguna la forma en que el oficial que apriete el botón en la próxima (y
última)
guerra atómica, independientemente del bando que represente,
podrá
salvar su conciencia.
Y
es un viejo truco en la magia ―rico, sin embargo, en consecuencias trágicas―
sacrificar por un voto la primera criatura viviente que uno vea al regresar
sano y salvo de una empresa peligrosa.
Cuando
tal jefe se da cuenta de que algunas de las funciones
supuestamente
humanas de sus esclavos pueden transferirse a las
máquinas,
se siente complacido. Al fin ha encontrado un nuevo
subordinado
―eficiente, servicial, confiable en su acción, nunca respondón,
diligente,
y que nunca exige un solo pensamiento de consideración personal.
Tales
subordinados se consideran en la obra de Karel Čapek: R.
U. R. El
esclavo
de la lámpara no plantea reivindicaciones. No pide un día libre por
semana
o un aparato de televisión en el cuarto de los sirvientes. De hecho,
no
pide cuarto de sirvientes en lo absoluto, sino que aparece de la nada
cuando
se frota la lámpara. Si tus propósitos te comprometen en daros a la
38
vela
muy ceñidamente a un viento moral, vuestro esclavo nunca os hará
recriminaciones,
ni siquiera con una ojeada inquisitoria. Ahora eres libre de
someterte
a tu suerte, dondequiera que el destino te lleve.
Este
tipo de mente es la mente del brujo en el sentido cabal del término.
No
sólo las doctrinas de la Iglesia previenen contra esta especie de brujo,
sino
también el sentido común de la humanidad, acumulado en leyendas,
en
mitos, y en los escritos del hombre de letras consciente. Todos ellos
insisten
en que la brujería no solamente es un pecado que lleva al infierno,
sino
que es un peligro personal en esta vida. Es una espada de doble filo, y
tarde
o temprano te cortará.
El
cuento de “El pescador y el genio”, de Las mil noches y una noches18 es
muy
pertinente. Un pescador, que echaba sus redes en la costa de Palestina,
pesca
una jarra de barro sellada con el Sello de Salomón. Rompe el sello, y
de
la jarra brota humo que toma la figura de un enorme Genio. El Ser le dice
que
es uno de esos seres rebeldes aprisionados por el gran rey Salomón; que
inicialmente
se había propuesto premiar a cualquiera que lo liberase con
poder
y riquezas; pero que en el curso del tiempo llegó a la decisión de matar
al
primer mortal que encontrase, y por encima de todos al hombre que le
diera
la libertad.
Afortunadamente
para él, parece ser que el pescador era un hombre
ingenioso,
con una rica veta de zalamería. Jugó con la vanidad del Genio y lo
persuadió
de mostrarle cómo un ser tan grande podía haber sido confinado
a
semejante jarrita, haciéndolo entrar de nuevo en la jarra. Cerró el sello de
nuevo,
echó la jarra al mar, se felicitó de su angosto escape y vivió feliz desde
entonces.
En
otros cuentos, el protagonista no tiene un encuentro tan accidental
con
la magia e incluso llega todavía más cerca del borde de la catástrofe o
provoca
la ruina total. En el poema de Goethe, El aprendiz de brujo19, el
factótum
joven que limpia la vestimenta mágica del maestro, barre sus pisos
18 El Libro de
las mil y una noches es a veces llamado, con mayor fidelidad al original
árabe “Al laylah wa líala”,
el Libro de las mil noches y una noche.
19 Esta historia
apareció por vez primera en el Philopseudés de Luciano de Samósata,
Goethe compuso El
Aprendiz de Brujo (“Der Zauberlehrling”) como una balada de catorce estrofas.
39
y
acarrea su agua, es dejado solo por el brujo, con la encomienda de llenar
sus
baldes de agua. El sirviente, teniendo una porción completa de esa
pereza
que es la verdadera madre de la invención ―la que llevo al muchacho
que
cuidaba la máquina de Newcomen a asegurar a la cruceta la cuerda de
la
válvula que él tenía que tirar, y eso llevó a la idea del mecanismo de la
válvula
automática20― recordó algunos fragmentos de un
encantamiento
que
había escuchado de su maestro y puso a la escoba a trabajar trayendo
agua.
La escoba llevó a cabo esta tarea con prontitud y eficiencia. Cuando el
agua
comenzó a rebasar el borde de la cubeta, el muchacho se dio cuenta
deque
no recordaba el encantamiento que el mago había usado para detener
la
escoba. El muchacho estaba en peligro de ahogarse cuando mago regresó,
dijo
las palabras de poder y dio al aprendiz un edificante regaño.
Incluso
aquí, la catástrofe final es conjurada a través de un deus
ex
machina.
W. W. Jacobs, un escritor inglés de principios de este siglo,
ha
llevado
el principio a su más pura conclusión lógica en un cuento llamado
“The
Monkeys Paw”21 que es uno de los clásicos de la
literatura de horror.
En
ese cuento, una familia trabajadora inglesa está sentada para cenar en
su
cocina. El hijo sale a trabajar a una fábrica, y los viejos padres escuchan
los
relatos de su invitado, un sargento primero de regreso del servicio en el
ejército
indio. Este les habla de la magia hindú y les muestra una pata de
mono
disecada, la que, les dice, es un talismán que ha sido dotado por un
santón
hindú de la virtud de conceder tres deseos a cada uno de tres
poseedores
sucesivos. Esto, decía, era para probar la insensatez de desafiar
al
destino.
Él
dijo que no sabía cuáles habían sido los dos primeros deseos del primer
20 En 1705 Thomas
Newcomen hizo a un motor de vapor donde el pistón se conectaba por una cadena
con un
extremo atado a una barra. El vapor de la caldera
admitido al cilindro permitía levantar el pistón mediante un
contrapeso colgado al otro extremo de la barra.
Entonces la válvula estaba cerrada y el vapor en el cilindro se
condensaba por un chorro de agua fría. Esta
condensación creaba un vacío en el cilindro y el pistón era
forzado a descender por la presión de la atmósfera, y
se realizaba trabajo alzando la palanca de una bomba
atada al otro extremo de la barra. La historia común
es que un muchacho perezoso pero ingenioso llamado
Humphrey Potter que había sido puesto para voltear la
válvula, hizo que el motor cerrara y abriera sus
propias válvulas por medio de cuerdas e inventó así el
primer tren de válvula automático. Los motores de
Newcomen se usaron solamente por bombear agua.
21 Jacobs, W. W., “The
Monkeys Paw”, en The Lady of the Barge, Dodd, Mead, and Company; también
en
Model Short
Stories_ Ashmun, Margare t, Ed. The Macmillan
Co., Nueva York, 1915.
40
poseedor
pero que el último había sido morir. Él mismo era el segundo
poseedor,
pero sus experiencias eran demasiado terribles para relatarse.
Estando
a punto de arrojar la pata a las brasas de carbón, su anfitrión la
recupera,
y a despecho de todo lo que el sargento primero pudiera hacer,
desea
200 libras
esterlinas.
Inmediatamente
después se oye un toque en la puerta. Se encuentra allí
un
caballero muy solemne de la compañía que ha empleado a su hijo. Tan
amablemente
como puede, da la noticia de que su hijo ha sido muerto en la
fábrica
en un accidente. Sin reconocer responsabilidad alguna en el asunto,
la
compañía ofrece sus condolencias y 200 libras esterlinas como
indemnización.
Los
padres están aturdidos, y a sugerencia de la madre, desean que su
hijo
les sea devuelto. Para entonces el exterior está oscuro, una noche
oscura
y borrascosa. Nuevamente se escucha un toque en la puerta. De
alguna
manera los padres saben que es su hijo, pero no en su forma
corpórea.
La historia termina con el tercer deseo, de que el fantasma se
marche.
El
tema de todos estos cuentos es el peligro de la magia. Esto parece
descansar
en el hecho de que la operación mágica es de una singular
interpretación
literal, y que si le concede cualquier cosa, le concede lo que
solicite,
no lo que debiera haber solicitado o lo que intentó solicitar. Si pide
de
la vida de su hijo, obtendrá 200
libras esterlinas, ya sea que su hijo viva
o
muera.
Puede
esperarse que, similarmente, la magia de la automatización, y en
particular
la magia de una automatización en la que los dispositivos
aprenden,
sea de interpretación literal. Si usted está jugando un juego de
acuerdo
con ciertas reglas y dispone a la máquina jugadora para jugar hacia
la
victoria, si consigue usted algo sería la victoria, y la máquina no prestaría
la
más mínima atención a cualquier consideración aparte de la victoria, de
acuerdo
con las reglas. Si está usted jugando un juego bélico con una cierta
interpretación
convencional de la victoria, la meta podría ser la victoria a
cualquier
costo, incluso el de la exterminación de su propio bando, a menos
41
que
esta condición de supervivencia esté explícitamente contenida en la
definición
de victoria de acuerdo con la cual usted programe la máquina.
Esto
es más que una paradoja verbal puramente inocente. Ciertamente
nada
conozco que contradiga el supuesto de que Rusia y los Estados Unidos,
cada
uno o ambos, están jugando con la idea de usar máquinas, máquinas
que
aprenden, además, para determinar el momento de apretar el botón de
la
bomba atómica que es la ultima ratio de
este actual mundo nuestro.
Durante
muchos años todos los ejércitos han jugado juegos bélicos, y
esos
juegos han estado siempre a la zaga de los tiempos. Se ha dicho que en
cada
guerra, los buenos generales pelean la última guerra, los malos la
penúltima.
O sea que las reglas del juego de la guerra nunca se ponen al día
con
los hechos de la realidad.
Esto
ha sido siempre cierto, aunque en períodos de muchas guerras, ha
habido
siempre un cuerpo de combatientes maduros que han
experimentado
la guerra bajo condiciones que no han variado muy
rápidamente.
Estos hombres experimentados son los únicos “expertos
bélicos”,
en el verdadero sentido de la palabra. En el momento actual no hay
expertos
en guerra atómica: es decir, ningún hombre que tenga experiencia
alguna
de un conflicto en el que ambas partes hayan tenido armas atómicas
a
su disposición y las hayan usado. La destrucción de nuestras ciudades en
una
guerra atómica, la desmoralización de nuestro pueblo, el hambre y la
enfermedad,
y la destrucción concomitante (la que muy bien podría ser
mucho
más grande que el número de muertes de la explosión y la lluvia
radiactiva
inmediata) son conocidas sólo por conjetura.
Aquí,
aquellos que conjeturan el mínimo monto de daños secundarios y la
mayor
posibilidad de supervivencia de las naciones bajo el nuevo tipo de
catástrofe,
pueden, y lo hacen, reclamar para sí la orgullosa vestimenta de
patriotismo.
Si la guerra es completamente autodestructiva, si una
operación
militar ha perdido todo sentido posible, entonces el ejército y la
marina
han perdido una buena parte de su propósito, y los pobres generales
y
almirantes fieles podrían ser despedidos del trabajo.
Las
fábricas de misiles no contarían más con el mercado ideal, en el que
42
todos
los bienes pueden usarse sólo una vez y no permanecen para competir
con
otros bienes aún por fabricarse. El clero estaría embaucado por el
entusiasmo
y regocijo que acompañan a una cruzada. En síntesis, cuando
hay
un juego bélico para programar tal campaña, habrá muchos que olviden
sus
consecuencias, solicitando las 200 libras esterlinas y olvidando
mencionar
que el hijo debe sobrevivir.
Aun
cuando siempre es posible solicitar algo distinto de lo que realmente
deseamos,
esa posibilidad es más seria cuando el proceso por el que vamos
a
obtener nuestro deseo es indirecto, y no queda claro el grado en que lo
hemos
obtenido hasta el final mismo. Usualmente comprendemos nuestros
deseos,
en la medida en que de hecho se realizan, por un proceso de
retroalimentación,
en el que comparamos el grado de consecución de metas
intermedias
con nuestra previsión de ellas. En este proceso, la
retroalimentación
pasa a través nuestro, y podemos dar marcha atrás antes
de
que sea demasiado tarde. Si la retroalimentación introducida dentro de
una
máquina es tal que no puede haber inspección hasta que la meta final
es
alcanzada, las posibilidades de una catástrofe son mucho mayores.
Odiaría
pasear en la primera prueba de un automóvil regulado por
dispositivos
retroalimentadores fotoeléctricos, a menos que en alguna parte
hubiese
un manubrio por el cual yo pudiera tomar el control si me
encontrase
dirigiéndome a chocar contra un árbol.
La
gente amante de los artilugios, con frecuencia tiene la ilusión de que,
un
mundo altamente automatizado haría menos exigencias a la inventiva
humana
que las que hace el actual y nos sustituiría en el pensamiento difícil,
tal
como un esclavo romano que también fuera filósofo griego podría haberlo
hecho
para su amo. Esto es palpablemente falso. Un mecanismo buscador
de
metas no necesariamente perseguiría nuestras metas
a menos que lo
diseñásemos
para ese propósito, y en ese diseño deberemos prever todas las
etapas
del proceso para el que está diseñado, en lugar de ejercer una
previsión
tentativa que sube hasta cierto punto, y pueda ser continuada
desde
ese punto a medida que surjan nuevas dificultades. Las sanciones por
errores
de previsión, si bien ahora son grandes, se incrementarán
enormemente
en la medida que la automatización llegue a usarse
43
plenamente.
En
la actualidad hay una fuerte preferencia por la idea de eludir algunos
de
los peligros, y en particular los peligros concomitantes a la guerra
atómica,
mediante los tan mencionados dispositivos “tolerante a fallas”.22 La
noción
que se encuentra detrás de esto es que incluso si un dispositivo no
opera
adecuadamente, es posible conducir su modo de falla de manera
inofensiva.
Por ejemplo, si una bomba de agua va a averiarse, con frecuencia
es
mucho mejor que lo haga vaciándose a sí misma del agua que explotando
por
la presión. Cuando estamos enfrentando un peligro conocido particular,
la
técnica de tolerancia a fallas es legítima y útil. Sin embargo, es de escaso
valor
contra un peligro cuya naturaleza no ha sido todavía reconocida. Si,
por
ejemplo, el peligro es uno remoto pero fatal para la especie humana,
incluyendo
la exterminación, solamente un estudio muy cuidadoso de la
sociedad
podría mostrarlo como un peligro hasta que ya estuviese sobre
nosotros.
Contingencias peligrosas de esta especie no se anuncian. Así,
aunque
la técnica de tolerancia a fallas pueda ser necesaria para evitar una
catástrofe
humana, enfáticamente no puede ser considerada como una
precaución
suficiente.
A
medida que la técnica de ingeniería se vuelve más y más capaz de
alcanzar
propósitos humanos, debe volverse más y más habituada a la
formulación
de propósitos humanos. En el pasado, una apreciación parcial
o
inadecuada de los propósitos humanos ha sido relativamente inocua,
solamente
porque ha estado acompañada por limitaciones técnicas que nos
dificultaron
ejecutar operaciones que incluyesen una cuidadosa evaluación
de
propósitos humanos. Ésta es sólo una de las muchas áreas en las que la
impotencia
humana nos ha protegido hasta ahora del impacto destructivo
total
de la insensatez humana.
En
otras palabras, aunque en el pasado la humanidad ha enfrentado
muchos
peligros, éstos han sido mucho más fáciles de manejar porque en
muchos
casos el peligro presentaba sólo uno de sus aspectos. En una época
22 Se ha
traducido como “tolerante a fallas” el término “failsafe” del texto
original en inglés, que califica a un
dispositivo diseñado y construido de tal manera que si
llegase a fallar de cierto modo, no causaría daño, o
causaría el mínimo daño a otros dispositivos o a
personas.
44
en
la que la gran amenaza es el hambre, se obtiene seguridad mediante la
producción
de alimentos en aumento, y no hay mucho peligro en ella. Con
una
mayor tasa de mortalidad (y sobre todo una alta tasa de mortalidad
infantil)
y una medicina de muy poca efectividad, la vida humana individual
era
del máximo valor, y resultaba apropiado que se nos ordenara ser fértiles
y
multiplicarnos. La presión de la amenaza del hambre fue como la presión
de
la gravedad, para la que nuestros músculos, huesos y tendones están
siempre
afinados.
El
cambio en las tensiones de la vida moderna, cuyos resultados
provienen
tanto del surgimiento de nuevas presiones como de la
desaparición
de viejas, es bastante análogo a los nuevos problemas de la
navegación
espacial. En la ingravidez que se nos impone en un vehículo
espacial,
ya no existe esa fuerza constante unidireccional, en la que tanto
confiamos
en nuestra vida diaria. En tal nave espacial, el viajero debe contar
con
agarraderas a las cuales asirse, frascos exprimibles para su comida y
bebida,
varias ayudas direccionales por las que pueda determinar su
posición,
e incluso así, aunque ahora parezca que su fisiología no será
seriamente
afectada, difícilmente podrá estar tan cómodo como quisiera. La
gravedad
es nuestra amiga al menos tanto como nuestra enemiga.
De
la misma manera, en ausencia de hambre, la sobreproducción de
alimentos,
la falta de propósitos y una actitud de derroche y despilfarro se
convierten
en problemas serios. Una medicina mejorada es un factor que
contribuye
a la sobrepoblación, que es, con mucho, el peligro mas serio al
que
se enfrenta la humanidad actualmente. Las viejas máximas en las que
tanto
ha confiado la humanidad ―tales como la de que una moneda
ahorrada
es una moneda ganada― ya no podrán ser consideradas como
incuestionablemente
válidas.
Fui
a cenar con un grupo de médicos ―estaban hablando libremente entre
ellos,
con la suficiente confianza en sí mismos para no temer decir cosas no
convencionales―
cuando comenzaron a discutir la posibilidad de un ataque
radical
a ese mal degenerativo conocido como vejez. No lo consideraron
como
algo más allá de toda posibilidad de tratamiento médico, sino que más
bien
miraron hacia el día ―quizá no muy lejano en el futuro― en el que el
45
instante
de muerte inevitable pueda retrasarse quizá hacia el futuro
indefinido,
y la muerte sea accidental, como parece serlo en las secuoyas
gigantes
y en algunos peces.
No
estoy afirmando que estuvieren acertados en esta conjetura (y estoy
bien
seguro de que ellos no pretendían que fuese más que una conjetura)
pero
la importancia de los nombres que la apoyan ―estaba presente un
Premio
Nobel― es demasiado grande para permitirme rechazar tal
sugerencia
de antemano. Esa sugerencia, que en principio puede parecer
reconfortante,
es en realidad muy aterradora, y sobre todo para los médicos.
Puesto
que, si hay algo claro, es que la humanidad como tal no podría
sobrevivir
por mucho tiempo a la prolongación indefinida de todas las vidas
que
entran a existir. No sólo ocurriría que la parte de la humanidad que no
es
autosuficiente sobrepasaría a aquella de la que depende la continuación
de
su existencia, sino que tendríamos tal deuda perpetua con los hombres
del
pasado que estaríamos totalmente impreparados para enfrentarnos a los
nuevos
problemas del futuro.
Es
inconcebible que todas las vidas deban prolongarse de manera
indiscriminada.
Si, no obstante, existe la posibilidad de prolongación
indefinida,
la terminación de una vida e incluso el rechazo o la desatención a
prolongarla
entraña una decisión moral de los médicos. ¿Qué ocurrirá
entonces
con el tradicional prestigio de la profesión médica como sacerdotes
de
la batalla contra la muerte y ministros de la misericordia? Admito que
incluso
actualmente hay casos en que los médicos acotan esta misión suya y
deciden
no prolongar una vida inútil y miserable. Rehusarán a menudo ligar
el
cordón umbilical de un monstruo; o cuando un viejo que sufre de un
cáncer
incurable cae víctima de esa “vieja amiga del hombre”, la neumonía
hipostática,
le harán la muerte más fácil antes que exigirle el último grado
de
sufrimiento al que una supervivencia le condenaría. Más a menudo esto
se
lleva a cabo silenciosa y decentemente, y sólo cuando algún idiota
desenfrenado
divulga el secreto, las cortes y los periódicos se llenan de
plática
sobre la “eutanasia”.
Pero
¿qué pasaría si tales decisiones, en lugar de ser raras y soterradas,
tuvieran
que tomarse no en unos cuantos casos especiales, sino en casi
46
cualquier
muerte? ¿Qué tal si cada paciente llega a ver a cada médico no
sólo
como su salvador, sino como su verdugo final? ¿Podría el médico
sobrevivir
a ese poder del bien y el mal que se le confiaría? ¿Podría la propia
humanidad
sobrevivir a este nuevo orden de cosas?
Es
relativamente fácil alentar el bien y combatir al mal cuando el mal y el
bien
están dispuestos uno contra otro en dos filas definidas y cuando los
que
están del otro lado son nuestros enemigos incuestionables, y los que
están
del nuestro aliados confiables. ¿Qué tal, en cambio, si tuviéramos que
preguntamos,
cada vez en cada situación, dónde está el amigo y dónde el
enemigo?
¿Qué ocurrirá, además, cuando hubiéramos dejado la decisión en
las
manos de una magia inexorable o una máquina inexorable, a la cual
debiéramos
plantear de antemano las preguntas correctas, sin tener una
comprensión
cabal de las operaciones del proceso mediante el cual serán
respondidas?
¿Podemos entonces confiar en la acción de la pata de mono a
la
que hemos solicitado que nos conceda 200 libras esterlinas?
No.
El futuro ofrece pocas esperanzas a quienes aguardan que nuestros
nuevos
esclavos mecánicos nos ofrezcan un mundo en el que podamos vivir
sin
pensar. Pueden ayudarnos, pero a costa de plantear reivindicaciones
supremas
a nuestra honestidad y a nuestra inteligencia. El mundo del
futuro
será una lucha todavía más intensa contra las limitaciones de
nuestra
inteligencia, y no una cómoda hamaca en la que podamos echamos
para
ser agasajados por nuestros esclavos robot.
47
VI
Entonces
uno de los grandes problemas que deberemos enfrentar en el
futuro
es el de la relación entre el hombre y la máquina, de las funciones que
deben
ser propiamente asignadas a esos dos agentes. En apariencia la
máquina
tiene ciertas ventajas evidentes. Es más rápida en su acción y más
uniforme,
o al menos puede ser hecha con esas propiedades si está bien
diseñada.
Una computadora digital puede efectuar en un día un volumen de
trabajo
que podría absorber la totalidad de los esfuerzos de un equipo de
calculistas
durante un año, y podría efectuado con un mínimo de
imperfecciones
y metidas de pata.
Por
otro lado, el ser humano tiene ciertas ventajas nada despreciables.
Aparte
del hecho que cualquier hombre sensible puede considerar los
propósitos
del hombre como primordiales en las relaciones entre el hombre y
la
máquina, la máquina es mucho menos compleja que el hombre y tiene un
alcance
mucho menor en la variedad de sus acciones. Si consideramos la
neurona
de la materia gris del cerebro como del orden 1/1.000.000 de
milímetro
cúbico, y al más pequeño transistor obtenible actualmente del
orden
del milímetro cúbico,23 no habríamos juzgado la situación como
demasiado
desfavorable desde el punto de vista de la ventaja de la neurona
en
términos de menor masa. Si se considera a la materia blanca del cerebro
como
equivalente al alambrado de un circuito de computadora, y si
tomamos
cada neurona como el equivalente funcional de un transistor, la
computadora
equivalente a un cerebro ocuparía una esfera del orden de 9
metros
de diámetro. Realmente, sería imposible construir una computadora
23 NOTA DE
ACTUALIZACION: Desde la época en la cual Norbert Wiener escribió esto, los
progresos de la
microelectrónica y la nanotecnología han superado
ampliamente estas miniaturizaciones. Por ejemplo, el
procesador Penryn de Intel, anunciado en noviembre de
2007, contiene transistores de 45 nanómetros, o sea
tan sólo poco más del doble del tamaño de un
Rhinovirus. Paralelamente, el costo de uno de estos
transistores es del orden de un millonésimo del costo
de un transistor en 1968. (Fuente:
http://www.intel.com/pressroom/kits/45nm/Intel45nmFunFacts_FINAL.pdf).
48
que
en algo se pareciera a la relativamente compacta textura del cerebro, y
cualquier
computadora con poderes comparables a los del cerebro podría
ocupar
un edificio de oficinas de apreciable tamaño, si no es que un
rascacielos.
Es difícil creer que, en comparación con las computadoras
existentes,
el cerebro no tenga ciertas ventajas concomitantes a su enorme
dimensión
operativa, que es incomparablemente más grande de lo que
podríamos
esperar dada su dimensión física.
La
principal entre esas ventajas parecería ser la habilidad del cerebro
para
manejar ideas vagas, todavía imperfectamente definidas. Al manejadas,
las
computadoras mecánicas, o al menos las que existen en la actualidad,
son
virtualmente incapaces de programarse a sí mismas. Pero en poemas,
en
novelas y pinturas, el cerebro parece encontrarse a sí mismo capaz de
trabajar
muy bien con elementos que cualquier computadora rechazaría por
indefinidos.
Dejemos
al hombre las cosas que son del hombre y a las computadoras
las
cosas que son de ellas. Ésta podría parecer la política inteligente a
adoptar
cuando empleamos juntos hombres y computadoras en empresas
comunes.
Es una política tan apartada de la del adorador de artefactos como
de
la del hombre que ve solamente blasfemia y degradación del hombre en el
uso
de cualesquiera ayudantes mecánicos para pensar. Lo que ahora
necesitamos
es un estudio independiente de sistemas que comprendan
elementos
humanos y mecánicos. Dicho sistema no debería ser afectado por
prejuicios
promecánicos ni antimecánicos. Pienso que tal estudio ya se está
desarrollando
y que prometerá una mejor comprensión de la
automatización.
Un
campo en el que podemos usar, y usamos, tales sistemas mixtos es el
del
diseño de prótesis, de dispositivos que reemplazan miembros u órganos
sensibles
dañados. Una pierna de madera es un sustituto mecánico de una
pierna
de carné y hueso perdida, y un hombre con una pierna de madera
representa
un sistema compuesto tanto por partes mecánicas como
humanas.
Quizá
la clásica pata de palo simple no sea interesante, ya que sustituye
al
miembro perdido sólo en la forma más elemental, y una de madera con
49
forma
de pierna, tampoco es muy interesante. Sin embargo, hay un cierto
trabajo
con miembros artificiales que está haciendo en Rusia, en los Estados
Unidos
y en otras partes un grupo al que yo pertenezco. Este trabajo es
mucho
más interesante en principio y en él realmente se hace uso de ideas
cibernéticas.
Supongamos
que un hombre ha perdido una mano hasta la muñeca. Ha
perdido
unos pocos músculos que sirven principalmente para desplegar los
dedos
y retraerlos juntos nuevamente, pero la mayor parte de los músculos
que
normalmente mueven la mano y los dedos están todavía intactos en el
muñón
del antebrazo. Cuando esos músculos están contraídos, no mueven
la
mano y los dedos pero si producen ciertos efectos eléctricos conocidos
como
potenciales de acción. Éstos, pueden ser captados mediante
electrodos
apropiados, y pueden ser amplificados y combinados mediante
circuitos
transistorizados. Pueden adaptarse para que controlen los
movimientos
de una mano artificial mediante motores eléctricos, los que
derivan
su fuerza de baterías o acumuladores eléctricos apropiados, pero las
señales
que los controlan son enviadas a través de circuitos transistorizados.
La
parte nerviosa central del aparato de control está por lo general casi
intacta
y debe ser usada.
Tales
manos artificiales han sido hechas ya en Rusia, e incluso han
permitido
a algunos amputados de mano regresar al trabajo efectivo. Este
resultado
se facilita por la circunstancia de que la misma señal nerviosa que
era
efectiva en producir una contracción muscular antes de la amputación
puede
continuar siendo efectiva en el control del motor que mueve la mano
artificial.
Por consiguiente, el aprendizaje del uso de esas manos se ha hecho
mucho
más fácil y más natural.
Sin
embargo, como tal, una mano artificial no puede sentir, y la mano es
tanto
un órgano de tacto como de movimiento. Pero veamos ¿por qué una
mano
artificial no puede sentir? Es fácil poner manómetros dentro de los
dedos
artificiales que pueden comunicar impulsos eléctricos a un circuito
apropiado.
En esos términos, esto puede, en su punto terminal, activar
dispositivos
que actúen sobre la piel viva, o sea, la piel del muñón. Por
ejemplo,
esos dispositivos pueden ser vibradores. Con ello podemos
50
producir
una sensación sustitutiva de tacto, y podemos aprender a usarla
para
remplazar la sensación natural del tacto perdida. Además, hay aún
elementos
kinestésico-sensorios en los músculos mutilados, de los que
puede
sacarse buen provecho.
En
consecuencia, hay una nueva ingeniería de prótesis posible, y ella
conlleva
el diseño de sistemas de naturaleza mixta, que comprendan tanto
partes
humanas como mecánicas. Sin embargo, esta clase de ingeniería no
necesita
limitarse al reemplazo de partes que hayamos perdido. Hay una
prótesis
de partes que no tenemos y nunca hemos tenido. El delfín se
propulsa
a sí mismo en el agua mediante sus aletas, y esquiva obstáculos
escuchando
los reflejos de los sonidos que él mismo emite. ¿Qué es el
propulsor
de un barco si no un par de aletas artificiales, o qué es el aparato
del
sonar si no un aparato detector y emisor de sonido sustituto de aquel del
delfín?
Las alas y los motores de jet de un aeroplano remplazan las alas de
un
águila y el radar sus ojos, al tiempo que el sistema nervioso que los
combina
es remedado por un piloto automático y otros dispositivos de
navegación
similares.
Entonces,
los sistemas humanomecánicos tienen un gran campo práctico
en
el que pueden ser útiles, pero en ciertas situaciones son indispensables.
Ya
hemos visto que las máquinas discentes deben operar de acuerdo con
ciertas
normas de buen funcionamiento. En el caso de las máquinas
jugadoras
de juegos, en el que los movimientos permisibles son establecidos
arbitrariamente
de antemano, y el objetivo del juego es ganar con base en un
conjunto
de reglas permisibles de acuerdo con una convención estricta que
determina
el triunfo o la derrota, esta norma no crea problemas. Sin
embargo,
hay muchas actividades que desearíamos perfeccionar mediante
procesos
de aprendizaje en los cuales el éxito de la actividad debe ser
juzgado
por un criterio que incluye a los seres humanos, y en las cuales el
problema
de la reducción de dicho criterio a unas reglas formales está lejos
de
ser simple.
Un
campo en el que hay una gran demanda por la automatización, y una
gran
demanda potencial por la automatización del aprendizaje, es el de la
traducción
automática. Ante el presente estado metaestable de tensión
51
internacional,
los Estados Unidos y Rusia están, cada uno por su parte,
igual
y opuestamente urgidos de descubrir lo que el otro está pensando y
diciendo.
Puesto que en ambos lados hay un número limitado de
traductores
humanos competentes, cada uno está explorando las
posibilidades
de la traducción mecánica. Esto se ha logrado hasta cierto
punto,
pero ni las cualidades literarias ni la inteligibilidad de los resultados
de
esas traducciones han sido suficientes para provocar un gran
entusiasmo
en ambas partes. Ninguno de los dispositivos mecánicos de
traducción
ha probado ser digno de confianza cuando decisiones
trascendentales
depende de la precisión de la traducción.
Quizá
la ruta más prometedora de la mecanización de la traducción sea
mediante
una máquina que aprenda. Para que una máquina de esa especie
opere
necesitamos tener un criterio firme de buena traducción. Esto supone
una
de dos cosas: ya sea un conjunto completo de reglas objetivamente
aplicables
que determinen cuándo una traducción es buena, o alguna
entidad
capaz de aplicar un criterio de buen funcionamiento,
independientemente
de tales reglas.
El
criterio normal de buena traducción es la inteligibilidad. Las personas
que
leen el idioma al que la traducción se hace deben recibir del texto la
misma
impresión obtenida del original por personas que entiendan el idioma
del
original. Si este criterio fuera difícil de aplicar, podríamos dar uno que es
necesario
si no suficiente. Supongamos que tenemos dos
máquinas
traductoras
independientes, sean, una del inglés al danés y la otra del danés
al
inglés. Cuando un texto en inglés haya sido traducido al danés por la
primera
máquina, dejemos a la segunda traducirlo de nuevo al inglés. En tal
caso
la traducción final debe resultar reconociblemente equivalente al
original
para una persona familiarizada con el inglés.
Es
concebible que un conjunto de reglas dadas para una traducción de
esa
especie deba ser tan definido que pueda confiarse a una máquina, y tan
perfecto
que sea suficiente para que una traducción realizada de acuerdo
con
esas reglas sea satisfactoria en términos del criterio que hemos dado. Yo
no
creo que la ciencia lingüística esté tan avanzada como para que sea viable
un
conjunto de reglas de esta especie ni que haya alguna esperanza de que
52
vaya
a ser tan avanzada en el futuro previsible. Limitada por este estado de
cosas,
una máquina traductora tendrá un riesgo de error. Si alguna
consideración
importante de acción o estrategia va a ser determinada
mediante
el uso de una máquina traductora, un pequeño error o incluso
una
pequeña posibilidad de error pueden tener consecuencias
desproporcionadamente
grandes y serias.
Me
parece que la mejor esperanza respecto a una traducción mecánica
razonablemente
satisfactoria está en remplazar un mecanismo puro, al
menos
al principio, por un sistema mecanicohumano, incluyendo como
crítico
a un traductor humano experto, que enseñe a la máquina mediante
ejercicios,
a la manera que un maestro de escuela instruye a sus alumnos.
Quizá
en una etapa posterior la memoria de la máquina haya absorbido
suficiente
instrucción humana como para prescindir de posterior
participación
humana, con excepción quizá de un curso de actualización
ocasional.
Por este camino la máquina podría desarrollar una madurez
lingüística.
Tal
esquema no le eliminaría a una oficina de traducción la necesidad de
contar
con un lingüista experto en cuya habilidad y juicio pudiera confiarse.
Ello
lo habilitada, o al menos podría habilitado, para manejar un volumen
considerablemente
mayor de traducción de lo que podría lograr sin
asistencia
mecánica. Esto, en mi opinión, es lo mejor que podemos esperar
de
la traducción mecánica.
Hasta
aquí hemos discutido la necesidad de un crítico sensible a los
valores
humanos, tal como, por ejemplo, en un sistema de traducción en el
que
todo, excepto el crítico, fuese mecánico. Sin embargo, si el elemento
humano
interviene como crítico, es muy razonable introducido también en
otras
etapas. En una máquina traductora no es en modo alguno esencial
que
el elemento mecánico de la máquina nos dé una traducción completa
única.
Puede damos un amplio número de traducciones alternativas de
frases
individuales que se ubiquen dentro de las reglas gramaticales y
lexicográficas
y dejen al crítico la alta responsabilidad de censurar y
seleccionar
de entre las traducciones mecánicas la que mejor se ajuste al
sentido.
No hay necesidad alguna de que el uso de la máquina en la
53
traducción
deje a ésta la formación de una traducción completamente
acabada,
incluso en el sentido de que la traducción se perfeccione después
mediante
la crítica a la totalidad. La crítica podría empezar desde una etapa
más
temprana.
Lo
que he dicho acerca de las máquinas traductoras puede aplicarse con
igual
o mayor vigor a las máquinas que están diseñadas para realizar
diagnósticos
médicos. Tales máquinas están mucho más en boga en los
planes
para la medicina del futuro. Podrían ayudar a seleccionar los
elementos
que el médico usaría en el diagnóstico, pero no hay necesidad
alguna
de que completasen el diagnóstico sin el médico. Tal política acabada
y
permanente, en una máquina médica, probablemente producirá tarde o
temprano
mucha mala salud y muertes.
Un
problema relacionado que requiere la consideración conjunta de
elementos
mecánicos y humanos es el problema operativo de la invención,
que
ha sido discutido conmigo por el Dr. Gordon Raisbeck, de la Arthur D.
Little,
Inc. Operativamente, debemos considerar una invención no sólo en
relación
con lo que podamos inventar sino también con la manera como la
invención
puede ser usada y como será usada en un contexto humano. La
segunda
parte del problema es con frecuencia más difícil que la primera y
tiene
una metodología menos rigurosa. Nos enfrentamos entonces a un
problema
de desarrollo que es esencialmente un problema de aprendizaje,
no
sólo en el sistema mecánico, sino en el sistema mecánico conectado con
la
sociedad. Éste es un caso que definitivamente requiere una consideración
del
problema del mejor uso conjunto de la máquina y el hombre.
Un
problema similar y muy apremiante es el del uso y desarrollo de
dispositivos
militares en asocio con la evolución de la táctica y la estrategia.
Aquí
también, el problema operativo no puede ser separado del problema de
automatización.
El
problema de adaptar la máquina a las condiciones actuales mediante el
uso
apropiado de la inteligencia del traductor, del médico o del inventor, no
es
un problema que solamente deba enfrentarse ahora, sino que debe
enfrentarse
continuamente. El progreso de las artes y las ciencias significa
que
no podemos contentamos con la sabiduría total de cualquier época
54
concreta.
Esto es quizá más claramente cierto en cuanto a los controles
sociales
y la organización de sistemas de aprendizaje en la política. En un
período
de relativa estabilidad, si no en la filosofía de la vida, entonces en las
circunstancias
reales que hemos producido a nuestro alrededor en el mundo,
podemos
ignorar con seguridad nuevos peligros, tales como los que han
surgido
en la presente generación en relación con la explosión demográfica,
la
bomba, atómica, la presencia de una medicina ampliamente extendida y
otros
similares. No obstante con el transcurso del tiempo deberemos
reconsiderar
nuestra vieja optimización, y se necesitará una nueva y
revisada
para tomar en consideración esos fenómenos. La homeostasis, ya
sea
para el individuo o para la especie, es algo cuyas bases deberán
reconsiderarse
tarde o temprano. Esto significa, por ejemplo, como dije en
un
artículo para el Voprosy Filosofii de
Moscú24, que aunque la ciencia es
una
importante contribución a la homeostasis de la comunidad, es una
contribución
cuyas bases deben ser revaluadas nuevamente más o menos
cada
generación. Permítaseme aquí destacar que las actuales homeostasis
tanto
oriental como occidental están realizándose con la intención de fijar de
manera
permanente los conceptos de un período que paso hace mucho.
Marx
vivió en medio de la primera revolución industrial y estamos ahora
muy
dentro de la segunda. Adam Smith pertenece a una fase aún más
temprana
y obsoleta de la primera revolución industrial. La homeostasis
permanente
de la sociedad no puede hacerse bajo el supuesto rígido de una
completa
permanencia del marxismo ni puede hacerse bajo el supuesto
similar
concerniente a un concepto estandarizado de libre empresa o de afán
de
lucro. No es tanto la forma de la rigidez la que es particularmente fatal
sino
la rigidez en sí misma, cualquiera que sea su forma.
Me
pareció importante decir algo en ese artículo que enfatizara la función
homeostática
de la ciencia y al mismo tiempo protestara contra la rigidez de
las
aplicaciones sociales de la ciencia, tanto en Rusia como en cualquier otra
parte.
Cuando mandé ese artículo a Voprosy Filosofii, preví
que podía haber
una
fuerte reacción por mi actitud contra la rigidez; de hecho, mi artículo
fue
acompañado por otro considerablemente más largo que señalaba las
24 Wiener, N.,
“Science and Society”, Voprosy Filosofii, N° 7 (1961).
55
deficiencias
de mi posición desde un punto de vista estrictamente marxista.
No
dudo de que si mi documento original hubiese sido publicado primero
por
acá, hubiese recibido una similar y casi igual reacción desde el punto de
vista
de nuestros propios prejuicios, los que ―si bien no tan rígida y
formalmente
expresados― son también muy fuertes. La tesis que deseo
mantener
no es pro- ni anticomunista sino antirrigidez. Por consiguiente,
expreso
aquí mis ideas en una forma que no está muy estrechamente
conectada
con una evaluación de la diferencia entre los peligros
subyacentes
en esas rigideces paralelas pero opuestas. La moraleja que
deseo
recalcar es que las dificultades para establecer una regulación
realmente
homeostática de la sociedad no van a ser superadas mediante el
reemplazo
de un patrón establecido, no sujeto a una continua
reconsideración,
por otro patrón establecido, opuesto, pero de la misma
especie.
Sin
embargo, hay otras máquinas que aprenden aparte de la máquina
traductora
y de la jugadora de damas. Algunas de ellas pueden ser
programadas
en forma completamente mecánica y otras, como la máquina
traductora,
precisan la intervención de expertos humanos en calidad de
críticos.
Me parece que los usos de las de la última clase exceden con mucho
a
los de la primera. Lo que es más, recuérdese que en el juego de la guerra
atómica
no hay expertos.
56
VII
Hemos
completado la tarea de mostrar muchas analogías válidas entre
ciertos
asertos religiosos y los fenómenos estudiados por la cibernética, y
hemos
ido razonablemente lejos al mostrar cómo unas ideas cibernéticas
pueden
ser relevantes para los problemas morales del individuo. Aún falta
otro
campo en el que las ideas cibernéticas pueden ser aplicables a
problemas
con un aspecto ético: la cibernética de la sociedad y de la especie.
Desde
muy al comienzo de mi interés en la cibernética he estado
consciente
de que las consideraciones acerca del control y la comunicación
que
he encontrado aplicables a la ingeniería y la fisiología eran también
aplicables
en la sociología y la economía. Sin embargo, me he refrenado
deliberadamente
de enfatizar en estos campos en igual medida en los otros,
y
he aquí mis razones de tal proceder. La cibernética no existe salvo si es
matemática,
sino in esse, in posse25. He encontrado que la sociología y la
economía
matemática o econometría sufren bajo un malentendido de lo que
es
el uso adecuado de las matemáticas en las ciencias sociales y de lo que
puede
esperarse de las técnicas matemáticas, y me he contenido
deliberadamente
de ofrecer un consejo que, como estaba convencido,
seguramente
conduciría a un torrente de trabajo superficial y poco
respetado.
La
física matemática ha venido a ser uno de los grandes triunfos de los
tiempos
modernos. No obstante, sólo durante este siglo la tarea del físico
matemático
ha sido apropiadamente entendida, de manera especial en
relación
con la tarea del físico experimental. Hasta los años críticos de 1900
a
1905, por lo general se consideraba que el inventario principal de las ideas
de
la física matemática había sido completado con el trabajo de Newton; que
25 Es decir, si
no “efectivamente”, “realmente”; al menos “potencialmente”, “con posibilidad de
existencia” de
ser matemática.
57
tiempo
y espacio, masa y momento, fuerza y energía, eran ideas cimentadas
de
una vez para siempre; y que la tarea futura de los físicos consistiría en
hacer
modelos en términos de esas nociones, para fenómenos que aún no
hubiesen
sido planteados en esos términos.
Con
los trabajos de Planck y de Einstein resultó claro que la tarea del
físico
no era tan sencilla. Se vio que las categorías de la física no habían sido
establecidas
de una vez y para siempre a comienzos del siglo XVIII, y la tarea
del
físico ahora tenía que colocarse detrás de los conceptos newtonianos,
para
poner nuestras observaciones cuantitativas del mundo en un orden
que
debería empezar con los experimentos mismos y terminar con nuevas
predicciones
de observaciones y técnicas de ingeniería aplicada. El
observador
ha dejado de ser un inocente registrador de sus observaciones
objetivas,
y más bien ha venido a tomar una participación activa en el
experimento.
Tanto en la teoría de la relatividad como en la teoría cuántica,
su
papel en la modificación de las observaciones está lejos de poderse
considerar
despreciable. Esto ha conducido al nacimiento del actual
positivismo
lógico.
El
éxito de la física matemática llevó a los científicos sociales a estar
envidiosos
de su poder, sin una clara comprensión de las actitudes
intelectuales
que han contribuido a ese poder. El uso de la formulación
matemática
ha acompañado al desarrollo de las ciencias naturales y se ha
vuelto
moda en las ciencias sociales. Justo como los pueblos primitivos
adoptaron
las modas occidentales de vestuario desnacionalizado y de
parlamentarismo
a partir del sentimiento impreciso de que esos ritos
mágicos
y vestimentas los pondrían de una vez a la par con la cultura y la
técnica
modernas, así los economistas han desarrollado el hábito de vestir
sus
más bien imprecisas ideas con el lenguaje del cálculo infinitesimal.
Al
hacer esto, muestran escasamente una mayor discriminación que
algunas
de las naciones africanas emergentes en la afirmación de sus
derechos.
Las matemáticas que emplean los científicos sociales y la física
matemática
que usan como su modelo son la matemática y la física
matemática
de 1850. Un econometrista desarrollaría una ingeniosa y
elaborada
teoría de la oferta y la demanda, de los inventarios y el desempleo,
58
y
similares, con una relativa o total indiferencia en cuanto a los métodos con
que
esas elusivas cantidades son observadas o medidas. Sus teorías
cuantitativas
son tratadas con el respeto incuestionable con que los físicos
de
una época menos sofisticada trataban los conceptos de la física
newtoniana.
Muy pocos econometristas están conscientes de que si van a
imitar
los procedimientos de la física moderna y no meramente su
apariencia,
una economía matemática debería empezar con un recuento
crítico
de esas nociones cuantitativas y de los instrumentos adoptados para
recolectarlas
y medirlas.
Difícil
como es recolectar buenos datos físicos, es mucho más difícil
recolectar
largas series de datos económicos o sociales de modo que el
conjunto
de series tenga una significación uniforme. Por ejemplo, los datos
de
la producción de acero cambian su significación no sólo con cada
innovación
que modifique la técnica de fabricación, sino también con cada
cambio
social y económico que afecte a los negocios y a la industria en
conjunto,
y en particular, con cada tecnología que modifique la demanda de
acero
o la oferta y naturaleza de los materiales competidores. Verbigracia,
resultará
que aún el primer rascacielos hecho de aluminio en vez de acero,
afectará
toda la demanda de acero estructural, así como el primer barco
diesel
lo hizo respecto al incuestionable predominio del buque de vapor.
Entonces,
el juego económico es un juego en el que las reglas están
sujetas
a importantes revisiones, digamos cada diez años, y manifiesta una
incómoda
semejanza con el juego de croquet de la reina en Alicia
en el País
de
las Maravillas al que ya me he referido. En tales
circunstancias no hay
esperanzas
de dar una medida muy precisa de las cantidades involucradas.
El
asignar lo que pretenden ser valores precisos a esas cantidades
esencialmente
vagas no es útil ni honesto, y cualquier pretensión de aplicar
fórmulas
precisas a esas cantidades laxamente definidas es una falacia y
una
pérdida de tiempo.
Aquí
viene al caso un trabajo reciente de Mandelbrot. Él ha demostrado
que
el la manera profunda en la que el mercado de bienes está sujeto teórica
y
prácticamente a fluctuaciones aleatorias, provenientes de la pura
observación
de sus propias irregularidades es algo mucho más alocado y
59
mucho
más profundo de lo que se ha supuesto, y que las usuales
aproximaciones
continuas a la dinámica del mercado deben ser aplicadas
con
mucha mayor precaución de lo que se ha venido haciendo, o no
aplicarlas.
Entonces,
las ciencias sociales son un mal campo de prueba de las ideas
de
la cibernética ―mucho peor que las ciencias biológicas, en las que las
series
son elaboradas bajo condiciones que son mucho más uniformes, de
acuerdo
con su propia escala del tiempo. Por ejemplo los seres humanos
como
estructuras fisiológicas, a diferencia de la sociedad como un todo, han
cambiado
muy poco desde la edad de piedra, y la vida de un individuo
contiene
muchos años durante los cuales las condiciones fisiológicas
cambian
lentamente y en forma predecible. Sin embargo, esto no significa
que
las ideas de la cibernética no sean aplicables a la sociología y la
economía.
Significa, más bien, que estas ideas deben ser probadas en
ingeniería
y biología antes de ser aplicadas a un campo tan poco
formalizado.
Con
esas advertencias, la analogía familiar entre un cuerpo político y el
cuerpo
del individuo, es una analogía justificable y útil. Es al cuerpo político
a
la que se deben aplicar muchas consideraciones éticas, y a esa parte de la
religión
que es esencialmente una paráfrasis de la ética.
60
VIII
He
trabajado así en una serie de ensayos que están unidos porque cubren
la
totalidad del tema de la actividad creativa, de Dios a la máquina. La
máquina,
como ya he dicho, es la contrapartida moderna del Golem del
rabino
de Praga. Puesto que he insistido en discutir la actividad creativa
bajo
un solo encabezado, y en no fragmentarla en piezas separadas
pertenecientes
a Dios, al hombre y a la máquina, considero que no me he
tomado
más que una licencia normal de autor al llamar a este libro DIOS Y
GOLEM S. A.
entrada de aaltaris a las
5:10
0 comentarios:
Publicar un comentario
Suscribirse a Enviar comentarios [Atom]
<< Inicio