BNP Paribas pone a disposición de sus negocios una plataforma LLM as a Service para acelerar la industrialización de casos de uso de IA generativa
- BNP Paribas ha desplegado una plataforma interna LLM as a Service, diseñada para proporcionar a las entidades del Grupo acceso unificado a modelos lingüísticos a gran escala (Large Language Model – LLM) en un entorno seguro dentro de la propia infraestructura del Grupo.
- Esta infraestructura compartida, operada por los equipos informáticos del Grupo, está destinada a acelerar el desarrollo de casos de uso de inteligencia artificial (IA) generativa para servir mejor a empleados y clientes.
- Esta iniciativa forma parte de la estrategia tecnológica del Grupo, que aprovecha los datos y la IA como motores clave para mejorar la personalización para los clientes y el rendimiento operativo.
Para facilitar el desarrollo y despliegue de casos de uso de IA generativa en sus negocios y funciones, BNP Paribas ha diseñado y desplegado una plataforma interna LLM as a Service.
Operada por los equipos de TI del Grupo, esta tecnología permite a cada entidad acceder a una selección de modelos lingüísticos (LLM) adaptados a sus necesidades a través de una interfaz estandarizada y segura. Estos modelos pueden integrarse directamente en herramientas o procesos.
La plataforma se basa en una infraestructura compartida alojada en los centros de datos del Grupo, dotada de capacidades informáticas especializadas (GPU). Proporciona acceso a una selección de modelos de código abierto, modelos de Mistral AI, socio del Grupo, y próximamente modelos entrenados sobre conjuntos de datos internos, en función de las necesidades específicas.
Esta arquitectura permite al Grupo disponer de una gran potencia de procesamiento para ejecutar eficazmente los modelos lingüísticos, al tiempo que se comparten y limitan los costes. La plataforma garantiza un despliegue seguro dentro de la infraestructura del Grupo, respetando los requisitos de privacidad de los datos, y refuerza la alineación del uso de la IA generativa con las necesidades de os negocios y las funciones.
Varios casos de uso de IA generativa ya están en producción o experimentación dentro de los negocios del Grupo, como los asistentes internos, la generación de documentos y la extracción de información en documentos.
La implantación de la plataforma permite escalar facilitando el despliegue de estos casos de uso dentro de un marco común y acelerando la puesta en marcha de nuevos proyectos. La plataforma mejora la capacidad de los negocios para integrar rápidamente la IA generativa en sus procesos existentes, con estándares técnicos y de seguridad compartidos.
Puedes acceder a la nota de prensa completa a través del siguiente enlace