Anthropic cree que la industria de IA va demasiado rápido.
Anthropic pide frenar el ritmo de la inteligencia artificial y la advertencia llega justo cuando la compañía vive uno de los momentos más importantes de su historia.
Mientras Claude continúa creciendo rápidamente y Anthropic compite directamente contra OpenAI, Google y Meta, la empresa ahora asegura que el avance de IA podría estar acelerándose más rápido de lo que gobiernos y sociedad pueden controlar.
Anthropic pide frenar el ritmo de la inteligencia artificial por seguridad.
La compañía considera que la industria tecnológica necesita comenzar a “levantar el acelerador” del desarrollo de modelos avanzados de IA.
Según Anthropic, existe preocupación real sobre la posibilidad de que futuras inteligencias artificiales comiencen a mejorar versiones más avanzadas de sí mismas sin intervención humana completa.
Además, la empresa cree que actualmente todavía no existen mecanismos globales suficientemente sólidos para supervisar este escenario.
Anthropic ya utiliza IA para crear gran parte de su propio código.
La advertencia también llega pocos días después de que Anthropic revelara que Claude ya genera más del 80% del código integrado dentro de sus sistemas de producción.
La compañía explicó que sus ingenieros ahora producen muchísimo más software gracias al uso de agentes impulsados por IA.
Sin embargo, precisamente ese crecimiento acelerado es lo que está comenzando a preocupar dentro de la propia industria tecnológica.
La empresa quiere coordinación internacional para controlar la IA.
Anthropic considera que frenar temporalmente ciertos desarrollos avanzados de IA solo funcionaría mediante coordinación internacional entre gobiernos y compañías tecnológicas.
La empresa teme que, si algunos actores continúan desarrollando sistemas avanzados sin supervisión, se genere una carrera todavía más agresiva y difícil de controlar.
Además, Anthropic lanzó recientemente el Anthropic Institute, una iniciativa enfocada en investigar riesgos sociales, legales y económicos relacionados con inteligencia artificial avanzada.
Dario Amodei lleva años advirtiendo sobre riesgos de IA.
El CEO de Anthropic, Dario Amodei, lleva bastante tiempo hablando públicamente sobre riesgos relacionados con inteligencia artificial avanzada.
Amodei incluso ha mencionado anteriormente escenarios donde la IA podría superar capacidades humanas en múltiples áreas críticas durante los próximos años.
Además, el directivo considera que uno de los mayores problemas actuales es que todavía resulta extremadamente difícil entender completamente cómo funcionan internamente muchos modelos avanzados de IA.
La industria tecnológica sigue acelerando inversiones en IA.
Mientras Anthropic pide más precaución, la realidad es que la carrera por dominar inteligencia artificial continúa acelerándose enormemente.
Meta, Google, Microsoft, Amazon y OpenAI planean invertir cientos de miles de millones de dólares en centros de datos, chips y modelos avanzados durante los próximos años.
Además, nuevas investigaciones académicas ya muestran cómo modelos avanzados comienzan a desempeñar tareas cada vez más autónomas relacionadas con programación, ciberseguridad y automatización.
La discusión sobre IA apenas está comenzando.
La advertencia de Anthropic deja claro que incluso algunas de las empresas más importantes del sector comienzan a preocuparse seriamente por el ritmo actual de desarrollo de inteligencia artificial.
Y aunque todavía no existe consenso sobre cómo regular esta tecnología, cada vez más compañías reconocen que la próxima etapa de IA podría traer desafíos muchísimo más complejos de lo que imaginábamos hace apenas unos años.
Conoce más…
Galaxy Z Fold8 sería más delgado y sin S Pen.
iPhone Ultra plegable producción.
Wear OS 7 ya es oficial: estas son sus novedades.
¿Quieres encontrar buenas ofertas de Amazon y recomendaciones de productos de calidad en México? Dale clic AQUÍ y únete al canal de Telegram: Carlos Vassan PROMOS.
