Expertos de Granada piden una IA ética, transparente y con controles

Granada, uno de los epicentros del desarrollo de la inteligencia artificial en España, reúne a expertos que reclaman guías éticas, regulación y controles para reducir los riesgos de una tecnología cuyo alcance todavía está por descubrir. La conversación se ha intensificado tras la dimisión de un investigador de Anthropic, que alertó de los peligros de la carrera por mejorar estos sistemas, y después de varios hackeos ejecutados de forma autónoma por una IA.

Sergio Damas, investigador de la Universidad de Granada, defiende que es necesario avanzar hacia una inteligencia artificial «más ética y más confiable». A su juicio, el desarrollo no se puede detener, pero debe apoyarse en un marco regulatorio y en la colaboración entre los grupos que trabajan en inteligencia artificial y ética. También considera fundamental que las instituciones asuman su responsabilidad y que Estados Unidos y China se sumen a los esfuerzos europeos.

José Luis Dessy, director de la Fundación IA Granada, pide evitar una ola de pánico y señala que, en las empresas, los riesgos suelen estar controlados salvo cuando se gestionan datos sensibles. Aun así, considera necesario generar confianza y preparar planes de contingencia para responder a los efectos negativos que puedan aparecer a medida que avance la tecnología.

El catedrático de Ciencias de la Computación e Inteligencia Artificial de la UGR Paco Herrera alerta de la falta de transparencia y trazabilidad en el funcionamiento autónomo de estos sistemas. Reclama «guardarraíles» que impidan que una IA alcance un objetivo por cualquier medio y advierte del choque entre los intereses éticos de la sociedad y los económicos de las empresas. También apunta a los posibles usos para crear armas biológicas y al riesgo de que los jóvenes pierdan capacidades al sustituir su razonamiento por el de las máquinas.

Josep Roig, presidente del Círculo Tecnológico de Granada, confía más en el sentido común y asegura que, como empresario de software, no desarrollaría una tecnología que no fuera ética o pudiera dañar a la sociedad. Distingue entre las aplicaciones empresariales para mejorar procesos y las superinteligencias desarrolladas por grandes multinacionales, aunque cree que las limitaciones gubernamentales ayudarán a controlarlas.

Los expertos coinciden en que la inteligencia artificial ya forma parte del presente y que no es posible dar marcha atrás en su desarrollo. La prioridad, sostienen, es alcanzar un acuerdo regulatorio con criterios éticos para que sus capacidades se conviertan en una ayuda y no en una amenaza.

Información elaborada a partir de Ideal.