Una gran IA conlleva una gran responsabilidad
La inteligencia artificial nos permite construir más rápido que nunca, pero ¿realmente entendemos lo que estamos creando? Una reflexión sobre el valor del conocimiento, la experiencia y la responsabilidad humana en una era donde cualquiera puede crear con IA.
Hoy en día la inteligencia artificial está transformando prácticamente todas las industrias. A desarrolladores y empresas como la de un servidor, por supuesto que también nos ha impactado, y de maneras que hace apenas unos años parecían difíciles de imaginar.
En 2021 escribí un artículo sobre GitHub Copilot y cómo la inteligencia artificial cambiaría nuestra profesión. En aquel entonces veía con entusiasmo las posibilidades que esta tecnología nos ofrecía. Cinco años después, sigo pensando que estamos ante una de las herramientas más importantes de nuestra era, pero también comienzo a preocuparme por la manera en que la estamos utilizando.
Hoy prácticamente cualquier persona puede generar una obra artística, componer música o desarrollar una aplicación sin tener conocimientos profundos sobre estas disciplinas. Es algo extraordinario, sin duda, pero ¿alguna vez se han preguntado qué tan bien hecho está lo que estamos generando?
Hablando específicamente de software, tengo la impresión de que estamos construyendo edificios con cimientos de cartón. Aplicaciones que aparentemente funcionan, pero que detrás de una interfaz atractiva pueden esconder problemas graves de arquitectura, seguridad y mantenimiento.
No me cabe duda de que muchas empresas y emprendedores que hoy buscan ahorrarse unos pesos prescindiendo de profesionales terminarán enfrentando problemas mucho más costosos. Veo venir vulnerabilidades fáciles de explotar, pérdida de información, infraestructura mal planeada, errores que al intentar corregirse generan otros todavía más grandes y refactorizaciones masivas de sistemas que nunca debieron construirse de esa manera.
Y no se trata de estar en contra de la inteligencia artificial, todo lo contrario.
Pongamos como ejemplo una calculadora. Es una herramienta que puede realizar operaciones matemáticas complejas en una fracción de segundo, mucho más rápido de lo que nosotros podríamos hacerlo. Sin embargo, la calculadora no sabe qué problema necesitamos resolver, qué operación debemos utilizar o si el resultado tiene sentido dentro de nuestro contexto.
Somos nosotros quienes le damos propósito a esa herramienta.
Con la inteligencia artificial sucede algo similar a lo que ocurre con la calculadora. Podemos pedirle que construya prácticamente cualquier cosa, pero si no tenemos los conocimientos necesarios para evaluar lo que nos entrega, ¿cómo podemos estar seguros de que estamos tomando las decisiones correctas?
La imagen que acompaña esta publicación es una conversación real con un agente de IA durante el desarrollo de uno de nuestros proyectos. La comparto como ejemplo de cómo el conocimiento y la experiencia nos permiten cuestionar sus propuestas, proporcionar el contexto adecuado y guiarla hacia soluciones más sencillas, eficientes y de mayor calidad.
No se trata simplemente de pedirle a la IA que haga algo, sino de saber qué pedirle, cómo orientarla y, sobre todo, cómo evaluar lo que nos entrega.
La IA puede multiplicar enormemente nuestras capacidades, especialmente cuando está en manos de personas que conocen su disciplina. Un desarrollador experimentado puede aprovecharla para construir mejores soluciones en menos tiempo, de la misma manera que un arquitecto puede utilizar herramientas avanzadas para diseñar mejores edificios.
Pero ninguna herramienta, por extraordinaria que sea, debería ser motivo para dejar de lado el conocimiento, la experiencia y la responsabilidad profesional.
No pretendo decir que todos los proyectos desarrollados con IA estén mal hechos, ni mucho menos que una persona sin estudios formales sea incapaz de construir algo extraordinario. El conocimiento puede adquirirse de muchas maneras. Mi preocupación es que estamos comenzando a confundir la facilidad para producir algo con la capacidad de comprenderlo.
Y cuando hablamos de sistemas que administran dinero, información personal, operaciones empresariales o servicios críticos, las consecuencias de una mala decisión pueden ir mucho más allá de una simple falla técnica.
Personalmente, creo que apenas estamos viendo el comienzo de esta transformación. La inteligencia artificial seguirá evolucionando y tendremos que adaptarnos, como lo hemos hecho tantas veces a lo largo de la historia.
Mi invitación es a aprovechar estas herramientas, aprender a utilizarlas y, sobre todo, no subestimar el valor de acudir con expertos en cada disciplina. Porque una cosa es tener las herramientas para construir algo y otra muy distinta es saber lo que estamos construyendo.