Más de 560 empleados de Google enviaron una carta abierta a Sundar Pichai el 27 de julio, solicitando que la empresa se niegue a permitir que el gobierno de EE. UU. utilice su inteligencia artificial en operaciones militares secretas.
Más de 560 empleados de Google enviaron una carta abierta a Sundar Pichai el 27 de julio, solicitando que la empresa se niegue a permitir que el gobierno de EE. UU. utilice su inteligencia artificial en operaciones militares secretas.
En la carta se expresa: "Queremos que la IA sirva a la humanidad, no que se utilice para fines no humanitarios o que cause un daño severo. Esto incluye armas automáticas letales y vigilancia masiva, entre otros".
Se señala que "la única forma de garantizar que Google no se convierta en parte de este tipo de daño es rechazar cualquier trabajo de nivel secreto. De lo contrario, estos usos pueden ocurrir sin nuestro conocimiento o poder para evitarlo".
Sin embargo, tras un conflicto entre el Departamento de Defensa y la startup de IA Anthropic, las grandes empresas tecnológicas están bajo presión para pronunciarse sobre el uso de productos de IA en aplicaciones militares o de inteligencia.
El director ejecutivo de Anthropic, Amodei, se ha negado a permitir que el gobierno acceda sin restricciones a los modelos de IA de la empresa, insistiendo en establecer barreras para evitar que los modelos de IA se utilicen en armas letales o en la vigilancia de ciudadanos. La respuesta del gobierno ha llevado a Anthropic a enfrentar riesgos en su cadena de suministro, y Trump ha ordenado a todos los departamentos gubernamentales que dejen de usar el chatbot Claude. Anthropic ha presentado una demanda en este caso.
Se informa que la empresa matriz de Google está a punto de aceptar los términos del Departamento de Defensa para utilizar el modelo Gemini en operaciones secretas, sin establecer las barreras exigidas por Anthropic, lo que llevó a la reacción de los empleados mencionada anteriormente.
Esta carta fue coordinada por empleados del departamento de inteligencia de Google, de los cuales un 40% trabaja en el departamento de IA, con una proporción similar de empleados del departamento de la nube, y el resto proviene de varios departamentos de la empresa matriz. Entre los firmantes se encuentran más de 18 empleados senior, incluidos diseñadores principales, directores y vicepresidentes.
Extracto del artículo
- Más de 560 empleados de Google enviaron una carta abierta a Sundar Pichai.
- La carta solicita que Google no permita el uso de su inteligencia artificial en operaciones militares secretas.
- Los empleados expresan su preocupación por los usos no humanitarios de la IA, como armas automáticas letales.
- Anthropic, una empresa de IA, se enfrenta a presiones similares y ha tomado medidas legales.
- Google está considerando aceptar los términos del Departamento de Defensa para el uso de su modelo Gemini.
