Project Maven y por qué 3.100 empleados de Google piden se abandone
Los empleados de Google no quieren que su empresa colabore con el Pentágono de Estados Unidos perfeccionando la inteligencia artificial de sus sistemas. En una carta abierta publicada al completo por medios como el New York Times, cerca de 3.100 empleados firman para dirigirse directamente a Sundar Pichai pidiéndole que deje de colaborar en el Project Maven.
Se trata de un programa del pentágono en el que Google es una de las empresas colaboradoras, y en el que se busca utilizar la inteligencia articial para interpretar imágenes de vídeo. Esto, por mucho que Google está intentando quitarle hierro al asunto, tiene el potencial para ayudar a mejorar la orientación de los ataques por drones mejorando así su eficacia.
"Creemos que Google no debería estar en el negocio de la guerra", dicen al principio de la carta abierta. "Por lo tanto, pedimos que se cancele el Proyecto Maven y que Google redacte, publique y aplique una política clara que establezca que ni Google ni sus contratistas construirán nunca una tecnología de guerra".
Google tiene una política interna en la que alenta a sus empleados a hablar sobre cualquier tema relacionado con la empresa, y al final sólo se trata de 3.100 empleados de los 70.000 que tiene en todo el mundo. Sin embargo, la carta es una demostración de que algunos empleados de la empresa están preocupados por algunas de sus decisiones, y en ella recuerdan que el lema de la empresa siempre ha sido "Don’t Be Evil", no seas malvado.
En declaraciones a los medios, el propio Pichai ha hablado de este asunto diciendo que cualquier uso militar del machine learning plantea preocupaciones válidas. También ha asegurado que la participación de Google dentro del proyecto del Pentágono está enfocada únicamente a los fines no ofensivos de la tecnología. Sin embargo, eso no es suficiente para calmar la preocupación de los empleados.
"Este plan dañará irreparablemente la marca de Google y su capacidad para competir por el talento", aseguran. "En medio de los crecientes temores de la IA en armas, Google ya está luchando por mantener la confianza del público".
Además, los empleados de Google aseguran en la carta que no se puede externalizar la responsabilidad moral de sus tecnologías a terceros. Por eso, además de pedirle a Sundar Pichai que cancele el proyecto, también le piden que "redacte, publicite y haga cumplir una política clara que establezca que ni Google ni sus contratistas construirán nunca tecnología de guerra".
Qué es exactamente Project Maven
El Departamento de Defensa de los Estados Unidos obtiene cada año gran cantidad de datos, incluyendo millones de horas de vídeo casi imposible de procesar por sus trabajadores humanos. Es por eso que el verano pasado anunciaron la puesta en marcha de Project Maven, un proyecto para utilizar inteligencia artificial y machine learning para procesar todos los datos que obtienen.
Project Maven se centra en la visión por ordenador o computer vision, un aspecto del machine learning y el deep learning con el que quieren poder extraer objetos de interés de forma automática a partir de imágenes fijas o en movimiento. Esto quiere decir que una inteligencia artificial analizará los vídeos y fotos, y que detectará automáticamente cualquier elemento que se le haya entrenado para calificar como relevante.
Hace unas semanas Gizmodo desveló que Google estaba involucrado en el proyecto, lo que estaba sembrando el malestar entre sus empleados, lo cual ha acabado materializándose en la carta abierta de la que hablamos hoy.
Ante la queja de sus usuarios, hemos visto que Google se ha defendido asegurando que su participación es para fines no ofensivos. Sin embargo esa versión se topa de frente con la del propio Pentágono, que en su descripción del proyecto aseguran que están "en la carrera de las armas con IA".
No se seleccionan objetivos, pero…
Es verdad que el documento gubernamental también dice que de momento el proyecto no está enfocado a seleccionar objetivos, sino para ayudar a los operadores humanos. Sin embargo, seleccionar esos objetivos muy probablemente lleve en algunos casos a ejecutar ataques aereos contra ellos, por lo que aunque la finalidad de la tecnología de Google no sea la de matar personas sí que puede ayudar a hacerlo.
A todo este caso hay que añadirle que Google de momento no ha mostrado públicamente su contrato con el gobierno estadounidense, por lo que no tampoco hay manera de saber si dicen la verdad o si el lenguaje de este esconde un tono más bélico. Las sospechas también se ven incrementadas porque, tal y como ha apuntado el New York Times, Eric Schmidt de Alphabet es uno de los consejeros de su Junta de Innovación de Defensa, de la misma manera que el vice presidente de Google Milo Medin.
En cualquier caso, tampoco se puede decir que este sea un dilema ético exclusivo de Google, ya que empresas como Microsoft y Amazon también han anunciado en el pasado que tienen contratos gubernamentales para sus tecnologías de reconocimiento facial y procesado de documentos clasificados respectivamente.
