Experto de Google en IA renuncia para hablar sobre los peligros de la tecnología
Geoffrey Hinton es uno de los pioneros del campo. Sin embargo, la velocidad de desarrollo de la tecnología y la falta de criterio por parte de los desarrolladores y las empresas lo han llevado a adoptar una postura crítica.
Hasta hace poco Geoffrey Hinton fue una pieza clave dentro de Google. Sobre su papel en la empresa solo es necesario aclarar que es considerado por muchos como un pionero en el desarrollo de la inteligencia artificial.
Sin embargo Hinton ha renunciado a su puesto. Según explica, lo ha hecho para poder hablar líbremente sobre lo que está ocurriendo en el campo de las IA. Y sobre esto ha hablado en una reciente entrevista con el New York Times.
El temor de un experto
Hinton no solo advierte sobre peligro de estos sistemas en la generación de desinformación, o la eliminación de puestos de trabajo, cree que pueden llegar a convertirse en un peligro para la humanidad en sí. Apunta que es muy difícil imaginar como podría prevenirse su uso por parte de malos actores.
Cuando OpenAI, Google y otras empresas similares comenzaron a construir sus redes neuronales, Hinton las vio como un importante avance pero mecanismos inferiores al cerebro humano. Sin embargo, a medida que los esfuerzos escalaron esa perspectiva cambio. Ha comenzado a sospechar que en algunos aspectos estos sistemas pueden estar superando al ser humano. “Quizás lo que ocurre en estos sistemas es de hecho mejor que lo que sucede en el cerebro”.
A Hinton lo atemoriza el ritmo en el que la IA ha avanzado. Apunta que solo hay que observar que ocurría hace 5 años y la situación actual y proyectar a futuro.
Competencia y ritmo de desarrollo
Según explica Hinton hasta hace un año atrás, Google tenía una política clara sobre la tecnología que incluía no lanzar al mercado algo que pudiera causar daño. Pero cuando Microsoft puso una IA en Bing Google sintió la necesidad de no quedarse atrás. Ahora nadie puede frenarlos.
Las IA podrían volverse más listas que las personas. Hinton creía que para tal punto faltaban por lo menos unos 30 años. Ya no está tan seguro.
Los desarrolladores, sostiene, no deberían escalar la tecnología hasta que entiendan verdaderamente si pueden controlarla.
