Base de conocimientos

AI TOOLS está destinado a desarrolladores que desean utilizar el LLM de Infomaniak en sus aplicaciones.

¿Qué es AI Tools?

AI Tools es un LLM (Large Language Model), un tipo de modelo de aprendizaje automático que ha sido entrenado en un conjunto masivo de datos de texto y código. Los LLM son capaces de generar texto, traducir idiomas, escribir diferentes tipos de contenido creativo y responder a preguntas de manera informativa.

Para mantenerse fiel a sus valores, Infomaniak ofrece en las herramientas kSuite un LLM basado en uno de los modelos open source más avanzados del mercado.

Esta inteligencia artificial soberana puede, por ejemplo, acompañarle en la redacción, reformulación o traducción de sus correos electrónicos.

AI Tools le permite conectar sus bibliotecas o marcos compatibles a través de la API, sin interfaz.

La documentación de la API se encuentra en https://developer.infomaniak.com/docs/api e incluye información sobre los métodos disponibles, los parámetros y ejemplos.

Obtener AI Tools

Para utilizar AI Tools, es necesario crear un token API.

Luego, para acceder a AI Tools y, por ejemplo, consultar su consumo diario:

1. inicie sesión en el Manager Infomaniak (manager.infomaniak.com) desde un navegador web como Brave o Firefox
2. haga clic en el icono ‍ en la parte superior derecha de la interfaz (o navegue a través del menú lateral izquierdo, por ejemplo)
3. seleccione AI Tools (universo de Cloud Computing)
   
    

Solo puede existir un producto por organización, pero se pueden crear varios tokens API.

AI Tools puede ser utilizado por los siguientes usuarios:

• representante legal de la organización
• administradores de la organización
• colaboradores de la organización con derechos técnicos

Facturación

• API facturada por crédito
• cada solicitud consume un crédito o token LLM *
• la facturación es accesible para los representantes legales y administradores
• los colaboradores con derechos técnicos tienen acceso a la documentación, pero no a las facturas
• se requiere una tarjeta de crédito para comenzar a utilizar la API
• una factura impaga resulta en la suspensión del servicio
• se puede establecer un límite de gasto por un usuario con derechos de facturación en la organización y en el producto para controlar los costos imprevistos
• los precios están disponibles en la página de ventas

* Los tokens LLM (no confundir con los tokens API) son unidades básicas utilizadas por los modelos de lenguaje para procesar y generar texto. Cada token representa generalmente una palabra, una parte de una palabra o una entidad en un corpus de texto y se utiliza para el aprendizaje y la generación de lenguaje natural.

Esta guía se refiere a los productos de Infomaniak que integran el uso de inteligencia artificial, incluidos kChat, kDrive, Mail, Site Creator, entre otros.

Responsabilidades de las Partes

Datos Proporcionados a la IA

• La IA de Infomaniak actualmente se basa por defecto en mixtral8x22b
  • GPT4 turbo es una opción opcional para los usuarios de kChat / Mail
  • Los mensajes de audio se transcriben con Whisper
  • Llama 3 está disponible para la API AI Tools
• Cuando se utiliza un asistente de redacción, los mensajes y solicitudes dirigidos a la IA se procesan exclusivamente en Suiza a través de la infraestructura de Infomaniak
• No se procesan ni se comparten datos con terceros

Datos Proporcionados por la IA

• El modelo de lenguaje genera texto basado en los datos que ha asimilado durante su entrenamiento, careciendo de consciencia, intenciones o responsabilidades morales
• Es crucial que el usuario sea consciente de que la información generada por el modelo no siempre es precisa y no debe considerarse una fuente infalible de información
• El usuario debe ejercer juicio crítico y verificar la información proporcionada por el asistente con fuentes confiables cuando sea necesario
  • p.ej., si una persona usa el modelo para tareas cruciales como consejos médicos, legales o financieros, debe tomar precauciones adicionales para confirmar la información del modelo
• En caso de uso inapropiado o peligroso de este asistente, la responsabilidad recae en el usuario que realiza estas acciones

Esta guía trata sobre los tokens de autenticación de Infomaniak, conocidos como tokens, que se utilizan para verificar la identidad de la aplicación y otorgar permisos específicos para interactuar de manera segura con las funciones y datos de la API de Infomaniak.

Generar un token de API de Infomaniak

Los tokens de autenticación se utilizan para verificar la identidad de la aplicación y otorgar permisos específicos para interactuar de forma segura con las funciones y datos de la API.

Para acceder a la API de Infomaniak, es necesario generar un token de acceso. Su duración predeterminada es "ilimitada", pero puedes establecer una duración personalizada al crearlo.

Atención, si no se realiza ninguna llamada con el token durante un año, se desactivará automáticamente. En ese caso, será necesario generar uno nuevo. No hay límite en la cantidad de tokens que puedes crear.

Al momento de su creación, podrás elegir la aplicación y el alcance (scope) accesible por el token para que coincida con tu necesidad y proyecto actual.

Agregar / encontrar un token

Las claves de API se gestionan en esta página del Manager:
 

Para ello:

1. Haz clic en el botón azul Crear un token
2. Elige en el menú desplegable el producto adecuado según tu necesidad y proyecto actual
3. Selecciona un período de validez
4. Haz clic en el botón azul Crear un token
5. Ingresa la contraseña de inicio de sesión del Manager cuando se te solicite
6. Copia el token de forma segura: ya no estará accesible después de esto

Ejemplo de aplicación: token para la API de Newsletter

Esta guía explica cómo personalizar el tipo de lenguaje utilizado en las conversaciones e interacciones con el agente conversacional de AI Tools de Infomaniak.

Introducción

• Por defecto, las respuestas y los elementos aportados en una conversación con un bot en AI Tools serán del tipo “habitual”. El asistente se llama “Infomaniak Assistant” y su descripción es clara:
  
• Es completamente posible inventar y personalizar de manera extrema un estilo que el bot deberá seguir al pie de la letra durante las interacciones
• Una vez guardado el método, podrá reutilizarlo y alternar entre diferentes estilos según sus necesidades

Personalizar el modelo de lenguaje de AI Tools

Para crear un nuevo “system prompt” y utilizarlo:

1. inicie sesión en Infomaniak Manager (manager.infomaniak.com) desde un navegador web como Brave o Edge
2. haga clic en el ícono en la parte superior derecha de la interfaz (o navegue a través del menú lateral izquierdo, por ejemplo)
3. seleccione AI Tools (en el universo de Cloud Computing)
4. haga clic en un modelo de lenguaje para comenzar a configurar una conversación
   
5. haga clic en Modificar el asistente conversacional actual
6. haga clic en ‍ Nuevo debajo de la selección del asistente conversacional
   
7. dé un título a la conversación orientada que está configurando
8. dé el prompt necesario para la configuración de su bot, detallando si debe comportarse como... un terminal... un traductor especializado... etc. (ejemplos de prompts)
9. guarde los cambios
   

Ahora puede iniciar una conversación y obtener diferentes respuestas o elementos según el comportamiento inherente al system prompt elegido:

También es posible seleccionar un modelo para cada conversación (más información sobre modelos y responsabilidades).

Todas estas nuevas configuraciones están disponibles en un panel lateral accesible en el lado derecho de la pantalla desde todas las conversaciones.