La Inteligencia Artificial se ha convertido en una de las tecnologías con mayor velocidad de adopción de los últimos años. Empresas, gobiernos y organizaciones están incorporando herramientas capaces de generar contenido, analizar información, automatizar tareas y apoyar la toma de decisiones.
Pero mientras la industria tecnológica avanza rápidamente, también está creciendo otra necesidad: establecer reglas sobre cómo, dónde y bajo qué condiciones puede utilizarse la IA.
Una muestra de este cambio acaba de llegar desde Nueva York. La ciudad anunció una política que establece durante un año una moratoria sobre el uso de IA generativa orientada a estudiantes de 2-K hasta octavo grado.
Afectando a cerca de 600.000 alumnos. Sin embargo, detrás de la noticia existe un asunto tecnológico mucho más amplio: Nueva York también está revisando las herramientas digitales utilizadas dentro de su sistema y poniendo sobre la mesa cuestiones como seguridad, privacidad y control tecnológico.
La decisión plantea una pregunta que cada vez será más relevante para las empresas: ¿estamos preparados para utilizar Inteligencia Artificial o simplemente estamos incorporándola porque está disponible?
1 La IA empieza a encontrarse con límites
Durante los últimos años, la conversación alrededor de la Inteligencia Artificial estuvo dominada por una idea: adoptarla rápidamente antes que los demás.
Ahora comienza una nueva etapa.
Organizaciones e instituciones están entendiendo que implementar IA también implica establecer límites, definir responsabilidades y determinar qué información puede utilizar una herramienta y qué procesos puede automatizar.
El caso de Nueva York es una muestra de ese cambio: en lugar de permitir que las nuevas herramientas se incorporen sin restricciones, la ciudad decidió establecer una pausa y evaluar cómo deberían utilizarse.
2. Ya no basta con saber qué puede hacer una IA
Una herramienta de Inteligencia Artificial puede generar textos, analizar documentos, responder preguntas o automatizar determinadas tareas.
Pero antes de incorporarla a un proceso tecnológico aparecen otras preguntas:
¿Qué información recibe? ¿Dónde termina esa información? ¿Quién puede acceder a ella? ¿Qué decisiones puede tomar? ¿Qué ocurre si se equivoca?
Estas preguntas son especialmente importantes para las empresas, donde una herramienta de IA puede llegar a interactuar con información comercial, financiera, operativa o de clientes.
La adopción tecnológica, por tanto, empieza a requerir algo más que innovación: también necesita gestión y control.
3. La privacidad de los datos se vuelve todavía más importante
La Inteligencia Artificial funciona a partir de grandes cantidades de información, y eso convierte a los datos en uno de los principales puntos que deben protegerse.
Nueva York está incorporando criterios relacionados con la seguridad y la privacidad dentro de la evaluación de sus herramientas tecnológicas.
Para una empresa, esto tiene una aplicación directa: antes de introducir información confidencial en una herramienta de IA, es necesario conocer cómo maneja los datos, qué permisos requiere y qué políticas de privacidad ofrece.
Utilizar IA sin revisar estos aspectos puede convertir una herramienta diseñada para mejorar la productividad en un nuevo riesgo tecnológico.
4. No toda herramienta de IA debería tener acceso a todo
Uno de los cambios más importantes que trae esta nueva etapa es entender que la Inteligencia Artificial no debería tener acceso ilimitado a los sistemas de una organización.
Una herramienta utilizada para generar contenido no necesariamente necesita acceder a una base de datos de clientes.
Un asistente para analizar documentos no necesariamente debería poder modificar información financiera.
Y un agente capaz de ejecutar tareas automáticamente necesita todavía más controles.
La tecnología puede ser poderosa, pero su acceso debe estar determinado por permisos, necesidades y niveles de riesgo.
5. La IA también necesita supervisión
El hecho de que una herramienta pueda realizar una tarea automáticamente no significa que siempre deba hacerlo sin intervención humana.
Nueva York está planteando un modelo donde determinados usos de IA pueden realizarse bajo condiciones específicas y supervisión. En el caso de los programas piloto para estudiantes mayores, por ejemplo, las herramientas estarán limitadas y deberán utilizarse bajo supervisión de educadores capacitados.
El principio puede trasladarse fácilmente al mundo empresarial:
automatizar no significa abandonar el control.
Una empresa puede utilizar IA para acelerar procesos y reducir tareas repetitivas, pero debe mantener mecanismos para revisar resultados, detectar errores y actuar cuando la tecnología falle.
6. La gobernanza de IA empieza a convertirse en una necesidad
Hasta hace poco, muchas empresas podían incorporar una nueva herramienta tecnológica simplemente creando una cuenta y comenzando a utilizarla.
Con la Inteligencia Artificial, ese modelo puede quedarse corto.
Las organizaciones necesitan comenzar a definir políticas internas de uso, permisos, protección de datos, supervisión y responsabilidades.
Esto es lo que se conoce como gobernanza de IA: establecer las condiciones bajo las cuales una organización permite que sus sistemas utilicen Inteligencia Artificial.
Y a medida que la IA tenga acceso a más información y procesos empresariales, esta gestión será cada vez más importante.
7. La tecnología no necesita menos innovación, necesita mejor control
La decisión de Nueva York no significa que la Inteligencia Artificial vaya a desaparecer. De hecho, la propia política permite determinados usos de IA y contempla programas piloto para evaluar su utilización.
Lo interesante es precisamente el cambio de enfoque.
La discusión comienza a dejar atrás el “implementemos IA porque todo el mundo la está utilizando” para pasar a una pregunta mucho más importante:
“¿Cómo podemos utilizarla correctamente?”
Para las empresas, esta diferencia puede ser determinante. La organización que simplemente incorpora herramientas de IA puede obtener beneficios rápidos, pero aquella que además establece controles, protege sus datos y define correctamente dónde utilizar la tecnología tendrá muchas más posibilidades de aprovecharla de manera sostenible.
Conclusión
La decisión de Nueva York es mucho más que una noticia relacionada con colegios. Es otro ejemplo de cómo la sociedad está comenzando a enfrentarse a una realidad inevitable: la Inteligencia Artificial ya forma parte de nuestra infraestructura tecnológica y ahora debemos aprender a gobernarla.
La tecnología seguirá avanzando y las empresas continuarán incorporando IA para automatizar procesos, analizar información y mejorar su productividad. Sin embargo, cuanto más poderosas sean estas herramientas, mayor será la necesidad de establecer controles sobre ellas.
El verdadero desafío no será decidir entre utilizar o no utilizar Inteligencia Artificial.
Será saber qué herramientas utilizar, qué información permitirles consultar, qué tareas delegarles y dónde debe mantenerse la supervisión humana.
Nueva York acaba de poner un límite en un ámbito concreto. Para las empresas, la pregunta es otra: ¿será mejor esperar a que aparezcan las restricciones o empezar desde ahora a establecer sus propias reglas para utilizar la IA de forma segura?