La nueva plataforma de agente de inteligencia artificial de Cohere, North, promete mantener los datos empresariales seguros.

Créditos de la imagen: Cohere

Las herramientas de agentes de IA prometen eliminar parte de la monotonía de los flujos de trabajo diarios, pero la mayoría de las organizaciones aún son reacias a adoptarlas, debido a una preocupación fundamental: la seguridad de los datos. Las grandes empresas con secretos comerciales, las empresas de sectores altamente regulados y las agencias gubernamentales han pensado más de dos veces antes de introducir herramientas de IA por temor a que sus datos, o los de sus clientes, puedan ser comprometidos o utilizados para entrenar modelos fundacionales.

La empresa canadiense de IA Cohere está abordando estas preocupaciones con su nueva plataforma de agente de IA llamada North, que promete permitir el despliegue privado para que las empresas y los gobiernos puedan mantener sus datos y los de sus clientes seguros detrás de sus propias firewall.

“Las LLMs solo son tan buenas como los datos a los que tienen acceso,” dijo Nick Frosst, cofundador y CEO de Cohere, durante una demostración de North. “Si queremos que las LLMs sean tan útiles como sea posible, deben tener acceso a esos datos útiles, y eso significa que deben desplegarse en [el entorno del cliente].”

En lugar de utilizar plataformas de nube empresarial como Azure o AWS, Cohere afirma que puede instalar North en la infraestructura privada de una organización para que nunca vea ni interactúe con los datos del cliente. North puede ejecutarse en la infraestructura local de una organización, en nubes híbridas, VPCs o entornos desligados, dijo Frosst.

“Podemos desplegarlo literalmente en una GPU en un armario que puedan tener en alguna parte,” explicó, añadiendo que North fue diseñado para ejecutarse con tan solo dos GPUs.

Cohere afirma que North también incluye protocolos de seguridad como el control de acceso granular, políticas de autonomía del agente, red teaming continuo y pruebas de seguridad de terceros. Además, cumple con estándares internacionales de cumplimiento como GDPR, SOC-2 e ISO 27001.

Créditos de la imagen: Cohere

Cohere, que ha recaudado hasta ahora $970 millones, con una valoración más reciente de $5.5 mil millones, dijo que ya ha probado North con algunos clientes como RBC, Dell, LG, Ensemble Health Partners y, según informó TechCrunch el año pasado, Palantir.

North refleja muchas plataformas de agentes de IA directamente desde el principio. Sus características principales son el chat y la búsqueda, que permiten a los usuarios obtener respuestas a consultas de soporte al cliente; resumir transcripciones de reuniones, escribir contenido de marketing y acceder a información tanto de recursos internos como de la web. Frosst añadió que todas las respuestas incluyen citas y “cadenas de razonamiento” para que los empleados puedan auditar y verificar la salida.

Las funciones de chat y búsqueda están impulsadas por la tecnología existente de Cohere, como Command (su familia de modelos de IA generativa) y Compass (su pila de tecnología de búsqueda multimodal). Frosst dijo que North está impulsado por una variante de su modelo Command que se entrenó para la razón empresarial.

“Va más allá de solo Q&A y se adentra en hacer el trabajo por ti. Así que [North] puede crear una serie de activos. Puede hacer tablas, puede hacer documentos, puede hacer presentaciones. Puede hacer una gran cantidad de investigación de mercado,” dijo Frosst.

Es digno de mención que en mayo, Cohere adquirió Ottogrid, una plataforma con sede en Vancouver que desarrolla herramientas empresariales para automatizar la investigación de mercado de alto nivel.

Al igual que otras plataformas de agentes de IA, North puede conectarse a herramientas de trabajo existentes como Gmail, Slack, Salesforce, Outlook y Linear, e integrarse con cualquier servidor de Protocolo de Contexto de Modelo (MCP) para acceder a aplicaciones específicas de la industria o internas.

“A medida que ganas confianza chateando con el modelo, hay una transición suave que ocurre entre usarlo como una herramienta de apoyo y usarlo como una automatización,” dijo Frosst.