Casi 200 líderes en inteligencia artificial, investigadores y científicos de datos firmaron una carta abierta publicada el martes por la Comunidad de IA Responsable. Esta carta condena la reciente violencia de Israel contra los palestinos en Gaza y Cisjordania, criticando el uso de tecnologías de IA en la guerra, ya que estas buscan aumentar la eficiencia en la pérdida de vidas humanas y perpetúan sesgos anti-palestinos en los sistemas de IA.
La carta, inicialmente circulada por Tina Park, directora de Investigación y Diseño Inclusivo en la Partnership on AI, solicita que se suspenda el apoyo tecnológico al gobierno israelí y se pongan fin a sus contratos de defensa. Enfatiza que la crisis actual tiene raíces históricas que preceden al 7 de octubre de 2023, mencionando que las tecnologías impulsadas por IA han contribuido a más de 11,000 ataques contra objetivos en Gaza desde el inicio del conflicto.
Entre los firmantes destacados se encuentran Timnit Gebru, investigadora en ética de la IA y fundadora de DAIR; Alex Hanna, director de investigación en DAIR; Abeba Birhane, investigadora senior en Mozilla; Emily Bender, profesora de lingüística en la Universidad de Washington; y Sarah Myers West, directora del AI Now Institute.
Sin embargo, líderes en IA israelíes y judíos han expresado su oposición a la carta, argumentando que refleja casos en los que prominentes ethicistas de IA han celebrado o ignorado los ataques de Hamas el 7 de octubre. La carta no menciona a los rehenes israelíes en Gaza ni condena a Hamas por sus acciones.
Jules Polonetsky, CEO del Future of Privacy Forum, manifestó su preocupación al afirmar que la carta no condena las atrocidades cometidas por Hamas. Subrayó la complejidad de las consideraciones morales en los conflictos militares y cuestionó la efectividad de una narrativa unilateral para resolver la violencia.
Yoav Goldberg, profesor en la Universidad Bar Ilan, señaló que algunas tecnologías de IA probablemente han "salvado innumerables vidas palestinas" al ayudar en inteligencia y vigilancia. Comentó que, antes de los ataques del 7 de octubre, muchos ataques potenciales pudieron haber sido evitados gracias a estos sistemas.
La ingeniera en IA Shira Eisenberg destacó que las tecnologías de IA, como el Domo de Hierro de Israel, desempeñan roles críticos en operaciones bélicas, subrayando la importancia del uso responsable de la IA en medio del conflicto.
Además, varios líderes israelíes y judíos en la comunidad de IA han reportado sentirse consternados y decepcionados por los sentimientos antisemitas en las discusiones en redes sociales tras el 7 de octubre. Se sienten traicionados y aislados por personas que creían compartían sus valores.
Eran Toch, profesor asociado en la Universidad de Tel Aviv, expresó que la falta de empatía de la comunidad más amplia de IA es particularmente dolorosa para los miembros israelíes comprometidos con la resolución del conflicto palestino y la defensa de los derechos humanos.
Entre estos líderes también han surgido preocupaciones sobre teorías de conspiración antisemitas relacionadas con el uso que Israel hace de la tecnología de IA. Argumentan que tales narrativas reavivan tropos históricos que vinculan a los judíos con la opresión.
En respuesta a consultas de los medios, Gebru se negó a hacer más comentarios, enfatizando su enfoque en apoyar a los palestinos.
La carta ha provocado una fractura dentro de la comunidad de IA y el sector tecnológico en general, exacerbada por acciones de algunos líderes en IA que han decidido retirarse de eventos importantes, como el Web Summit, en respuesta a comentarios controvertidos sobre las acciones de Israel.
Dan Kotliar, investigador en la Universidad de Haifa, destacó que el apoyo implícito a las acciones de Hamas en la carta plantea interrogantes sobre la ética de quienes promueven una IA responsable, complicando aún más su credibilidad.
Talia Ringer, profesora asistente en la Universidad de Illinois en Urbana-Champaign, expresó una profunda conexión personal con los eventos desde los ataques del 7 de octubre, que afectaron a su familia. Notó una falta de espacio para el duelo en la comunidad de investigación en IA y mencionó su lucha con los comentarios antisemitas de antiguos amigos.
Aunque Ringer encuentra valor en las preocupaciones sobre la IA en la guerra, criticó la redacción que sugiere que la historia no comenzó el 7 de octubre como despectiva del impacto traumático de ese día. En última instancia, la devastación personal de Ringer le dificulta concentrarse en los temas de IA en este momento, ya que su enfoque sigue centrado en el costo humano del conflicto en curso.
Clasificación
