Por qué no usaré Gen AI para desarrollar software

Este artículo reimpreso apareció por primera vez en thatdougsmith.com

Soy desarrollador de software desde hace más de 30 años. Me encanta el arte del software bien escrito. La búsqueda de alta calidad, arquitectura limpia y valor comercial ha definido mi carrera. Los empleadores me han ascendido constantemente a desarrollador senior.

Dada la tendencia hacia el uso de herramientas de IA generativa para el desarrollo de software, como ChatGPT, Gemini, Copilot y Claude, muchas empresas han decidido que los desarrolladores deben utilizar GenAI para tener éxito. Estoy totalmente en desacuerdo. Pero mi punto de vista es muy desconocido.

Entonces, ¿por qué tendría yo esa convicción? ¿Incluso si eso significa perder el trabajo que amaba?

Esta publicación es para compartir mi razón. Principalmente, escribí esto para tener claridad cuando me enfrento a una decisión laboral difícil. Pero también es para cualquiera que tenga curiosidad por saber por qué es razonablemente probable que alguien No salta en este camino especial.

En primer lugar, estos son falso Las acusaciones que algunos pueden hacer al escuchar mi postura:

• Estás fuera de contacto con la realidad, anticuado, pasado de moda. No, puede que sea mayor que algunos lectores, pero todavía estoy a la vanguardia del desarrollo de software y sigo produciendo software de alta calidad.
• Tienes miedo de GenAI. Mis opiniones no se basan en el miedo. Se basan en la investigación, la ciencia, la experiencia y, espero, la claridad ética y moral.
• Eres anti-tecnología. Soy tecnólogo desde hace mucho tiempo. Es lo que quería ser cuando fuera mayor y todavía soy un estudiante de último año. Pero no me quedé en mi carril tecnológico. También estudié filosofía, teología, psicología, economía y más. La tecnología es dominante sólo en otras disciplinas. tecnopolio. La tecnología no es mi fuerte, pero eso no me convierte en anti-tecnología.

Entonces, ¿por qué no utilizaré GenAI para el desarrollo?

¿El resultado final? Es demasiado peligroso. El aparente impulso a corto plazo de hoy puede llevar a un arrepentimiento a largo plazo.

Para explicarlo mejor, he agrupado doce riesgos en cinco categorías.

Corremos el riesgo de que nos engañen para formar una relación de confianza indigna.

1. Flujo de trabajo adictivo. El desarrollo de software impulsado por GenAI está respaldado por chatbots creados específicamente para formar una relación de confianza inmerecida. El sistema de dopamina de nuestro cerebro se beneficia de la producción no determinista de GenAI, al igual que las redes sociales y las máquinas tragamonedas. Nos sorprendemos cuando está bien, nos enojamos cuando está mal y nos asustamos cuando excede los límites que nos hemos marcado. Todos estos provocan picos de dopamina y promueven la adicción.
2. Diseño engañoso. Cada aspecto del chatbot GenAI se basa en el engaño. Por diseño, nos engañan para que parezcamos sensibles, conocedores, razonadores y comprensivos, todo con su estilo conversacional abismal y característico. Y estamos atados a la dependencia de estos fraudes maestros. No podemos evitarlo. GenAI nunca se cansa, pero lo hace. Y el consejo de «tratarlos como a un junior» o ser un «pasante calificado» o lo que sea, no solo insulta a los desarrolladores junior y pasantes, sino que también puede engañarnos hacia una dependencia más profunda.

Corremos el riesgo de perder nuestra capacidad de concentrarnos y crear.

3. Interfaz que distrae. Los nuevos flujos de trabajo impulsados ​​por GenAI en herramientas como Codex y Claude Code alteran el profundo estado creativo y productivo. flujo cognitivo. Las herramientas GenAI fomentan la multitarea, algo imposible para el cerebro humano. Pero cuando un desarrollador experto se encuentra en un estado de flujo concentrado, el código fluye con los dedos tan fácil como el lenguaje. Luego renovamos. Ahí es cuando nos maravillamos de la creatividad con el código, como lo hacen los autores con las palabras. Entonces, ¿por qué dejaríamos que las grandes tecnologías impongan un nuevo flujo de trabajo que media, interrumpe, bloquea, distrae e impide que comprendamos el código que estamos escribiendo?
4. El declive de la creatividad. Sólo los humanos son verdaderamente creativos. Pero la innovación sólo surge de un conocimiento profundo, íntimo y experto del ámbito. Sólo podemos saber qué es bueno y único si nos convertimos en expertos y utilizamos nuestra mente (en colaboración con otros expertos) para explorar nuevas ideas. Corremos el riesgo de perder la capacidad de innovar cuando asumimos la posición de consumidores o administradores de la producción de GenAI en lugar de buscar una comprensión profunda.

Corremos el riesgo de perder las cualidades positivas de la naturaleza humana.

5. La evolución de la paciencia. Se nos dice que la habilidad del futuro es la «ingeniería rápida». En cambio, lo llamo «lanzamiento de hechizos» o «lanzamiento de hechizos». Sí, lanzar hechizos como «preguntas» es emocionante, especialmente cuando es nuevo. Y los defensores de GenAI dicen que si GenAI no funciona para usted «tú el problema«. Debes aprender a «diseñar» indicaciones mejores, más claras y con un contexto más ajustado para hacer mejores hechizos. Pero esto puede llevarnos a perder la paciencia necesaria para aprender cómo funcionan los sistemas de software complejos. En cambio, preferimos el poder rápido y fácil de los hechizos prescritos.
6. Volverse tiránico. El éxito en los flujos de trabajo «agetivos» parece requerir que los usuarios controlen un chatbot como un dictador sobre un servidor. Y lo que practicamos es en quién nos convertimos. Los desarrolladores ya están escribiendo directivas emocionales para decirle a un «agente» de IA que no lo envíe a producción, que no escriba errores, que no abandone su «zona de pruebas» o que no elimine bases de datos. si lo somos ordenar esos agentes, pensando en ellos como jóvenes o pasantes (es decir, menos que), entonces esa actividad nos moldea. Cuando nos sentimos frustrados porque un chatbot está «desobedeciendo» y dando órdenes más duras, nuestra actitud tiránica nos moldea.

Corremos el riesgo de dañar a los desarrolladores en ciernes, las habilidades sociales y el valor comercial.

7. Daño a los principiantes. Alguna sabiduría convencional dice que los expertos pueden beneficiarse más de GenAI que los novatos porque los expertos conocen un buen código. Pero si los expertos utilizan GenAI, corren el riesgo de perder experiencia. Y si los principiantes utilizan GenAI, es posible que no desarrollen las habilidades y destrezas necesarias para comprender un sistema de software y convertirse en expertos. GenAI puede acabar con la próxima generación de desarrolladores destacados. Por lo tanto, los desarrolladores convencionales que utilizan GenAI corren el riesgo de dañar a aquellos que aún no comparten nuestra experiencia con nuestro ejemplo.
8. Eliminando la discusión Los chatbots aduladores eliminan la fricción interpersonal que se produce cuando los desarrolladores no están de acuerdo en todo, desde los objetivos, la arquitectura hasta el diseño y el estilo. Pero sólo crecemos a partir de la resistencia creada por la lucha. Si pasamos la mayor parte de nuestro tiempo interactuando con chatbots, preferiremos las siempre agradables interacciones artificiales a las interacciones humanas desordenadas, complejas pero esenciales. Y perdemos la confianza y la camaradería que se obtienen al soportar dificultades, enfrentar desafíos y salir adelante más fuertes y mejores.
9. Tutorial de aturdimiento. El «receta secreta» de cualquier equipo de desarrollo es la capacidad de trabajar en conjunto. Y el código en sí es el artefacto único de un equipo, que describe un activo valioso: su comprensión compartida. El «conocimiento tribuno» es lo que hace que un equipo (y su empresa) sea único y crea valor económico. Pero los chatbots socavan o eliminan la necesidad o el deseo de un grupo de compartir sus conocimientos con otros. Esto reduce la capacidad de una empresa para competir.

Corremos el riesgo de ser víctimas de las grandes empresas tecnológicas depredadoras.

10. Influencia principal Las grandes empresas de IA buscan dominar todas las industrias. Las supuestas «herramientas neutrales» que han creado se venden como poderosos oráculos de conocimiento, eficiencia y rentabilidad. Pero las herramientas GenAI no son neutrales en absoluto. Son atractivos, llamativos y seductores, todos diseñados para aumentar el poder de las grandes tecnologías sobre todos los que forman su adicción.
11. Sobreviviente La gran IA está luchando su vida, por lo que deben alentar a todos a usar GenAI su supervivencia, no la nuestra. La GenAI no es rentable y las grandes IA no tienen un camino viable hacia la rentabilidad mientras se gastan hasta el olvido. Fracasarán si no nos convencen a todos de que no podemos vivir sin sus productos. Por eso se han dirigido a un mercado lucrativo: el desarrollo de software. Y a los precios actuales, parece una ganga en IA. Pero…
12. Precios explosivos. GenAI no puede permitirse el lujo de permanecer a los precios actuales. Si las grandes tecnológicas quieren ganar dinero con sus colosales «inversiones», tendrán que aumentar los precios de las suscripciones. Así que ahora nos están atrayendo con precios de ganga hasta que nuestras empresas no puedan sobrevivir sin GenAI (si renunciamos a nuestras capacidades de velocidad y potencia).

¿Qué haré en su lugar?

Por la gracia de Dios, aprovecharé nuestra inteligencia, creatividad, innovación, sabiduría y discernimiento humanos, hechos a imagen de Dios. Y los alentaré a todos a hacer lo mismo.

Nadie sabe cómo resultará GenAI. Pero me parece claro que las grandes empresas de IA no tienen en cuenta nuestros mejores intereses mientras abruman al mundo con su propaganda y poder.

Tengo demasiada fe en el Dios que nos dio nuestras mentes y corazones, y creo que Él nos guiará a los que estamos comprometidos con la humanidad por un camino mejor que el que han dictado las grandes tecnologías.