Wissensdatenbank

AI TOOLS richtet sich an Entwickler, die das Infomaniak LLM in ihren Anwendungen nutzen möchten.

Was ist AI Tools?

AI Tools ist ein LLM (Large Language Model), eine Art von Maschinenlernmodell, das auf einem riesigen Datensatz aus Text und Code trainiert wurde. LLMs sind in der Lage, Texte zu generieren, Sprachen zu übersetzen, verschiedene Arten von kreativen Inhalten zu schreiben und Fragen informativ zu beantworten.

Um seinen Werten treu zu bleiben, bietet Infomaniak in seinen kSuite-Tools ein LLM basierend auf einem der leistungsstärksten Open-Source-Modelle an, das auf dem Markt verfügbar ist.

Diese souveräne künstliche Intelligenz kann Sie beispielsweise beim Verfassen, Umformulieren oder Übersetzen Ihrer E-Mails unterstützen.

AI Tools ermöglicht es Ihnen, Ihre kompatiblen Bibliotheken oder Frameworks über die API, ohne Schnittstelle zu verbinden.

Die API-Dokumentation finden Sie unter https://developer.infomaniak.com/docs/api und enthält Informationen zu den verfügbaren Methoden, Parametern und Beispielen.

AI Tools erhalten

Um AI Tools zu nutzen, müssen Sie ein API-Token erstellen.

Gehen Sie dann wie folgt vor, um auf AI Tools zuzugreifen und beispielsweise Ihren täglichen Verbrauch einzusehen:

1. melden Sie sich beim Infomaniak Manager (manager.infomaniak.com) über einen Webbrowser wie Brave oder Firefox an
2. klicken Sie auf das ‍ Symbol oben rechts in der Benutzeroberfläche (oder navigieren Sie über das Menü auf der linken Seite, zum Beispiel)
3. wählen Sie AI Tools (Cloud Computing Universum)
   
    

Pro Organisation kann nur ein Produkt existieren, aber es können mehrere API-Tokens erstellt werden.

AI Tools kann von folgenden Benutzern verwendet werden:

• rechtlicher Vertreter der Organisation
• Administratoren der Organisation
• Mitarbeiter der Organisation mit technischen Rechten

Abrechnung

• API wird auf Kreditbasis abgerechnet
• jede Anfrage verbraucht ein Kredit oder LLM-Token *
• Abrechnungen sind für rechtliche Vertreter und Administratoren zugänglich
• Mitarbeiter mit technischen Rechten haben Zugang zur Dokumentation, aber nicht zu Rechnungen
• eine Kreditkarte ist erforderlich, um die API zu nutzen
• eine unbezahlte Rechnung führt zur Aussetzung des Dienstes
• ein Ausgabenlimit kann von einem Benutzer mit Abrechnungsrechten in der Organisation und für das Produkt festgelegt werden, um unerwartete Kosten zu kontrollieren
• Preise sind auf der Verkaufsseite angegeben

* LLM-Token (nicht zu verwechseln mit API-Token) sind Basiseinheiten, die von Sprachmodellen verwendet werden, um Text zu verarbeiten und zu generieren. Jeder Token repräsentiert in der Regel ein Wort, einen Teil eines Wortes oder eine Entität in einem Textkorpus und wird für das Lernen und die Generierung von natürlicher Sprache verwendet.

Dieses Handbuch betrifft Infomaniak-Produkte, die künstliche Intelligenz integrieren, darunter kChat, kDrive, Mail, Site Creator und mehr.

Verantwortlichkeiten der Parteien

Daten, die der KI bereitgestellt werden

• Die KI von Infomaniak basiert derzeit standardmäßig auf mixtral8x22b
  • GPT4 turbo ist eine freiwillige Option, die den kChat- / Mail-Nutzern zur Verfügung steht
  • Audio-Nachrichten werden mit Whisper transkribiert
  • Llama 3 ist für die AI Tools API verfügbar
• Bei der Nutzung eines Schreibassistenten werden Nachrichten und Anfragen an die KI ausschließlich in der Schweiz durch die Infrastruktur von Infomaniak verarbeitet
• Keine Daten werden verarbeitet oder an Dritte weitergegeben

Daten, die von der KI bereitgestellt werden

• Das Sprachmodell erzeugt Texte basierend auf den Daten, die es während seines Trainings aufgenommen hat, ohne Bewusstsein, Absichten oder moralische Verantwortlichkeiten
• Es ist wichtig, dass der Benutzer sich bewusst ist, dass die vom Modell generierten Informationen nicht immer genau sind und nicht als unfehlbare Informationsquelle betrachtet werden sollten
• Der Benutzer sollte kritisches Urteilsvermögen anwenden und die vom Assistenten bereitgestellten Informationen bei Bedarf bei zuverlässigen Quellen überprüfen
  • z.B., wenn eine Person das Modell für wichtige Aufgaben wie medizinische, rechtliche oder finanzielle Beratung verwendet, sollte sie zusätzliche Vorsichtsmaßnahmen treffen, um die Informationen des Modells zu bestätigen
• Bei unangemessener oder gefährlicher Nutzung dieses Assistenten liegt die Verantwortung beim Benutzer, der diese Maßnahmen ergreift

Dieser Leitfaden behandelt Infomaniak-Authentifizierungstoken oder Token, die zur Überprüfung der Identität der Anwendung verwendet werden und spezifische Berechtigungen erteilen, um sicher mit den Funktionen und Daten der Infomaniak-API zu interagieren.

Generieren eines Infomaniak API Tokens

Authentifizierungstoken oder Tokens dienen zur Überprüfung der Identität der Anwendung und gewähren spezifische Berechtigungen, um sicher mit API-Funktionen und Daten zu interagieren.

Zum Zugriff auf die Infomaniak-API ist es erforderlich, einen Zugriffstoken zu generieren. Die Standardlaufzeit ist "unbegrenzt", aber Sie können bei der Erstellung eine benutzerdefinierte Laufzeit festlegen.

Bitte beachten Sie, dass ein Token ein Jahr lang nicht verwendet wird, automatisch deaktiviert wird. In diesem Fall müssen Sie ein neues generieren. Es gibt keine Begrenzung für die Anzahl der Tokens, die Sie erstellen können.

Bei der Erstellung können Sie die Anwendung und den zugänglichen Bereich (Scope) des Tokens wählen, um Ihren aktuellen Projektbedarf zu erfüllen.

Token hinzufügen / abrufen

API-Schlüssel werden auf dieser Seite im Manager verwaltet:
 

So geht's:

1. Klicken Sie auf die blaue Schaltfläche Einen Token erstellen
2. Wählen Sie das entsprechende Produkt aus dem Dropdown-Menü entsprechend Ihren aktuellen Bedürfnissen und Projekten aus
3. Legen Sie eine Gültigkeitsdauer fest
4. Klicken Sie auf die blaue Schaltfläche Einen Token erstellen
5. Geben Sie Ihr Manager-Anmeldepasswort wie angefordert ein
6. Kopieren Sie den Token sicher - er wird nach diesem Schritt nicht mehr zugänglich sein

Anwendungsbeispiel: Token für die Newsletter-API

Dieser Leitfaden erklärt, wie Sie die Art der Sprache, die in Gesprächen und Interaktionen mit dem AI Tools Infomaniak-Chatbot verwendet wird, anpassen können.

Einführung

• Standardmäßig werden die Antworten und Elemente innerhalb eines Gesprächs mit einem Bot in AI Tools vom Typ „gewöhnlich“ sein. Der Assistent heißt „Infomaniak Assistant“ und seine Beschreibung ist klar:
  
• Es ist durchaus möglich, eine erfunden und extrem personalisierte Art zu erstellen, die vom Bot während der Interaktionen genau befolgt werden muss
• Nachdem die Methode gespeichert wurde, können Sie sie wiederverwenden und je nach Bedarf zwischen verschiedenen Methoden wechseln

Den AI Tools Sprachmodell anpassen

Um einen neuen „System Prompt“ zu erstellen und zu verwenden:

1. melden Sie sich bei Infomaniak Manager (manager.infomaniak.com) über einen Webbrowser wie Brave oder Edge an
2. klicken Sie auf das Symbol oben rechts in der Benutzeroberfläche (oder navigieren Sie über das linke Menü, zum Beispiel)
3. wählen Sie AI Tools (im Cloud Computing Universum)
4. klicken Sie auf ein Sprachmodell, um die Konfiguration eines Gesprächs zu starten
   
5. klicken Sie auf Den aktuellen Konversationsassistenten bearbeiten
6. klicken Sie auf ‍ Neu unterhalb der Auswahl des Konversationsassistenten
   
7. geben Sie der orientierten Konversation, die Sie konfigurieren, einen Titel
8. geben Sie den erforderlichen Prompt für die Konfiguration Ihres Bots an, indem Sie detaillieren, ob dieser sich verhalten soll wie... ein Terminal... ein spezialisierter Übersetzer... usw. (Beispiele für Prompts)
9. speichern Sie die Änderungen
   

Sie können nun ein Gespräch starten und verschiedene Antworten oder Elemente basierend auf dem Verhalten des gewählten System-Prompts erhalten:

Es ist auch möglich, ein Modell für jedes Gespräch auszuwählen (mehr erfahren über Modelle und Verantwortlichkeiten).

Alle diese neuen Einstellungen sind in einem Seitenbereich verfügbar, der auf der rechten Seite des Bildschirms von allen Gesprächen aus zugänglich ist.