Siga ZDNET: Agréganos como fuente preferida en Google.
Conclusiones clave de ZDNET
- Es necesario repensar los enfoques que priorizan la nube.
- La IA contribuye al aumento de los costos de la nube.
- Un modelo híbrido asegura lo mejor de ambos mundos.
Hace aproximadamente una década, el debate entre computación en la nube y local enfurecido. La nube ganó cómodamente esa batalla y ni siquiera estuvo cerca. Ahora, sin embargo, la gente está reconsiderando si la nube sigue siendo su mejor opción para muchas situaciones.
También: La computación nativa de la nube está a punto de explotar gracias al trabajo de inferencia de IA
Bienvenidos a la era de la IA, en la que la informática local está empezando a lucir bien otra vez.
Hay un movimiento en marcha
Es posible que las infraestructuras existentes ahora configuradas con servicios en la nube simplemente no estén preparadas para las demandas emergentes de IA, según un estudio reciente. análisis advirtió Deloitte.
«La infraestructura construida para estrategias que dan prioridad a la nube no puede manejar la economía de la IA», dice el informe, escrito por un equipo de analistas de Deloitte dirigido por Nicholas Merizzi.
«Los procesos diseñados para trabajadores humanos no funcionan para los agentes. Los modelos de seguridad creados para la defensa perimetral no protegen contra amenazas que operan a la velocidad de las máquinas. Los modelos operativos de TI creados para la prestación de servicios no impulsan la transformación empresarial».
Para satisfacer las necesidades de la IA, las empresas están contemplando un cambio de la nube principalmente a una combinación híbrida de nube y local, según los analistas de Deloitte. Los responsables de la toma de decisiones en tecnología están analizando por segunda y tercera vez las opciones locales.
Como lo describió el equipo de Deloitte, hay un movimiento en marcha «de la nube primero a la híbrida estratégica: la nube para la elasticidad, las instalaciones locales para la coherencia y la ventaja para la inmediatez».
Cuatro cuestiones
Los analistas de Deloitte citaron cuatro problemas candentes que surgen con la IA basada en la nube:
- Costos de la nube crecientes e imprevistos: Los costos de los tokens de IA se han reducido 280 veces en dos años, observan, pero «algunas empresas están viendo facturas mensuales de decenas de millones». El uso excesivo de servicios de inteligencia artificial basados en la nube «puede provocar frecuentes accesos a las API y un aumento de los costos». Incluso hay un punto de inflexión en el que las implementaciones locales tienen más sentido. «Esto puede suceder cuando los costos de la nube comiencen a exceder entre el 60% y el 70% del costo total de adquirir sistemas locales equivalentes, lo que hace que la inversión de capital sea más atractiva que los gastos operativos para cargas de trabajo de IA predecibles».
- Problemas de latencia con la nube: La IA a menudo exige una latencia cercana a cero para realizar acciones. «Las aplicaciones que requieren tiempos de respuesta de 10 milisegundos o menos no pueden tolerar los retrasos inherentes al procesamiento basado en la nube», señalan los autores de Deloitte.
- El sistema local promete una mayor resiliencia: La resiliencia también es parte de los requisitos apremiantes para procesos de IA completamente funcionales. Estas incluyen «tareas de misión crítica que no pueden interrumpirse y requieren infraestructura local en caso de que se interrumpa la conexión a la nube», afirman los analistas.
- Soberanía de datos: Algunas empresas «están repatriando sus servicios informáticos porque no quieren depender enteramente de proveedores de servicios fuera de su jurisdicción local».
También: Por qué algunas empresas se están alejando de la nube pública
Enfoque de tres niveles
La mejor solución al dilema entre la nube y el entorno local es optar por ambos, afirmó el equipo de Deloitte. Recomiendan un enfoque de tres niveles, que consiste en lo siguiente:
- Nube para elasticidad: Para manejar cargas de trabajo de capacitación variables, necesidades de capacidad de ráfaga y experimentación.
- Local para mantener la coherencia: Ejecute inferencias de producción a costos predecibles para cargas de trabajo continuas y de gran volumen.
- Ventaja de la inmediatez: Esto significa IA dentro de dispositivos, aplicaciones o sistemas de borde que manejan «decisiones urgentes con una latencia mínima, particularmente para sistemas autónomos y de fabricación donde los tiempos de respuesta de una fracción de segundo determinan el éxito o el fracaso operativo».
Este enfoque híbrido resuena como el mejor camino a seguir para muchas empresas. Milankumar Rana, quien recientemente se desempeñó como arquitecto de software en FedEx Services, apuesta por la nube para la IA, pero ve la necesidad de respaldar ambos enfoques cuando corresponda.
«He construido infraestructuras de análisis y aprendizaje automático a gran escala, y he observado que casi todas las funcionalidades, como lagos de datos, canalizaciones distribuidas, análisis de streaming y cargas de trabajo de IA basadas en GPU y TPU, ahora pueden ejecutarse en la nube», dijo a ZDNET. «Debido a que los servicios de AWS, Azure y GCP están tan maduros, las empresas pueden crecer rápidamente sin tener que gastar mucho dinero por adelantado».
Rana también les dice a los clientes «que mantengan algunas cargas de trabajo locales donde la soberanía de los datos, las consideraciones regulatorias o la latencia muy baja hacen que la nube sea menos útil», dijo. «La mejor manera de hacer las cosas ahora es utilizar una estrategia híbrida, en la que se mantienen las aplicaciones sensibles o sensibles a la latencia en las instalaciones mientras se utiliza la nube para obtener flexibilidad y nuevas ideas».
Ya sea que empleen sistemas en la nube o locales, las empresas siempre deben asumir la responsabilidad directa de la seguridad y el monitoreo, dijo Rana. «La seguridad y el cumplimiento siguen siendo responsabilidad de todos los individuos. Las plataformas en la nube incluyen una seguridad sólida, pero se debe garantizar el cumplimiento de las regulaciones de cifrado, acceso y monitoreo».
