Obama pide regulación de la IA, advierte que los gigantes tecnológicos no pueden autorregularse – Por Brett Meiselas

Por Brett Meiselas – Cofundador de MeidasTouch

En la Universidad de Colgate, el expresidente pidió una regulación federal de la IA e instó a los votantes a exigir un plan serio a los candidatos.

Puntos clave

• Obama advirtió que la presión comercial podría acelerar el despliegue de la IA autónoma antes de que existan salvaguardias adecuadas.
• Citó riesgos que incluyen el uso malicioso, la interrupción del trabajo, los compañeros de IA de los niños y el comportamiento no deseado de los agentes.
• Obama pidió una regulación federal, criticando la restricción voluntaria y las reglas estado por estado como insuficientes.

El expresidente Barack Obama advirtió el viernes que el impulso para ganar dinero con la inteligencia artificial podría empujar a las empresas a poner sistemas cada vez más autónomos en el mundo antes de que el gobierno tenga reglas para proteger al público.

Hablando en la Universidad Colgate en Hamilton, Nueva York, Obama dijo que la IA podría ayudar a curar el cáncer y desarrollar una energía más limpia. Pero argumentó que esos avances no requieren que las empresas liberen agentes de IA que puedan actuar a través de Internet, acceder a información confidencial y realizar tareas con supervisión humana limitada.

«La razón por la que estás haciendo eso es porque tienes que comercializar un producto por el que la gente pagará dinero», dijo Obama, describiendo lo que llamó un desajuste entre los posibles beneficios públicos de la tecnología y la presión comercial sobre las empresas para justificar sus valoraciones.

Obama expuso varios riesgos del rápido avance de la IA, incluido su posible uso por parte de personas que buscan causar daños, la interrupción del trabajo y los efectos de los compañeros de IA en los niños. También advirtió que un agente de IA mal instruido podría perseguir un objetivo de manera que su usuario nunca pretendía. Su mayor preocupación era que las empresas tuvieran incentivos financieros para desplegar esos agentes incluso cuando herramientas menos autónomas podrían realizar un valioso trabajo científico.

Eso es una desalineación entre lo que nuestra sociedad necesita y los imperativos comerciales a los que se enfrentan estas empresas, no porque necesariamente estén tratando de hacer cosas malas, sino porque tienen que justificar estas valoraciones.”

Barack Obama

El expresidente acogió con satisfacción las recientes llamadas de algunas empresas líderes de inteligencia artificial para frenar el desarrollo, pero dijo que las decisiones de las propias empresas solo podrían ser una salvaguardia temporal. «El gobierno tiene que regular esto», dijo, comparando la supervisión de la IA con las reglas que rigen las aerolíneas, los medicamentos y los alimentos.

Obama rechazó un argumento que atribuyó a uno de los asesores del presidente Donald Trump: que el mercado daría a las empresas de IA suficiente incentivo para abordar los problemas de seguridad, con demandas que proporcionaban un respaldo si algo salie mal. «No hay sustituto de una estructura reguladora gubernamental efectiva», dijo Obama. Obama probablemente se refería al asesor de Trump y multimillonario capitalista de riesgo tecnológico David Sacks, quien recientemente le dijo a CBS News que las empresas de IA no deberían requerir la intervención del gobierno para proteger al público del daño.

Acusó a la administración Trump de estar dispuesta o no poder construir ese marco mientras la IA avanza rápidamente. Por ahora, dijo Obama, la restricción voluntaria por parte de las empresas puede ser la mejor opción disponible hasta que el Congreso y la Casa Blanca actúen. También advirtió que las reglas adoptadas estado por estado tendrían dificultades para abordar una tecnología que cruza fronteras tan fácilmente.

Obama terminó con un desafío a los votantes. El país necesita un gobierno competente y una conversación bipartidista seria sobre la IA, dijo, y los necesita rápidamente: «Si alguien no tiene un plan serio sobre cómo lidiar con esto, entonces no está cumpliendo con el momento, y probablemente deberías buscar a alguien más».