AI i din app

Tabellen nedenfor er planen for denne guide. Læs den først: den forhindrer tre fjerdedele af de dårlige valg.

Én sætning til at holde fast i forskellen: RAG-chatbotten ved, hvad du har udgivet, ChatGPT-udvidelsen ved, hvad modellen har lært. Den første kan ikke svare på et emne, du aldrig har dækket. Den anden svarer alligevel, og det er undertiden præcis dét, du ikke vil have.

De to kan findes side om side i den samme app. En almen samtaleassistent på startskærmen og en dokumentarisk chatbot i arkivsektionen er ikke i konkurrence.

RAG står for retrieval-augmented generation. Princippet fylder én sætning: før den svarer, går assistenten ud og finder de relevante passager i dit indhold og skriver sit svar ud fra de passager.

Det er forskellen mellem en assistent, der kender emnet, og en assistent, der kender dit. For et ti år gammelt artikelarkiv, en rejseguide, en intern håndbog eller en base af ofte stillede spørgsmål er det den eneste form, der holder: svarene bliver inden for grænserne af det, du har skrevet, og de ældes i samme takt.

Chatbotten er en udvidelse, før den er en sektion, og rækkefølgen betyder noget. Alt starter fra punktet RAG Chatbot i hovedmenuen, på første niveau mellem Notification og Statistics: det er dér, du tilføjer udvidelsen, og først når den er tilføjet, bliver sektionen tilgængelig i din app. Leder du efter den i listen over sektioner, før du er gået den vej, finder du den ikke.

Når den først er på plads, opfører den sig som enhver anden sektion: den tager sin plads i din menu, den tæller med i dine 120 sektioner, og den overtager din apps farver og typografi.

Dens indstillinger åbner fra det samme menupunkt, på en skærm med fire faneblade: indstillinger, design, kildesektioner og rapporter.

Det er den indstilling, der afgør kvaliteten af din chatbot, og det er også den, folk forhaster sig med.

Fanebladet Sections viser dine, ordnet efter indholdstype: dine artikler, dine begivenheder, dine steder. Du sætter kryds ved dem, der skal føde vidensbasen, og du kan gå ned på kategoriniveau: hele Articles-sektionen, eller kun kategorien Practical.

Alt, hvad du udgiver i de sektioner bagefter, kommer automatisk med. Der er ingen opdateringsknap at huske, ingen eksport at lave om: din vidensbase følger det, du udgiver.

En sidste indstilling gør billedet færdigt: et loft over, hvor mange elementer der beholdes fra hver valgt kilde, regnet fra de nyeste og bagud. Hæver du det, får assistenten mere materiale og bruger flere credits. En udgiver, der publicerer hver dag, og en stabil rejseguide har ikke brug for den samme værdi.

To modeller sættes hver for sig, og de gør ikke det samme arbejde.

Genereringsmodellen er den, der skriver svaret. Listen går fra de nyeste modeller ned til deres Mini- og Nano-varianter, som er hurtigere og mere nøjsomme. Den rummer OpenAI-modeller og Mistral-modeller, hvilket lader dig blive på europæisk infrastruktur, når det betyder noget for dig.

Indekseringsmodellen er den, der gør dit indhold til noget, søgningen kan arbejde med. Dens store udgave håndterer lange, nuancerede tekster bedre; dens økonomiske udgave er hurtigere og bruger mindre.

Den praktiske regel: begynd med en økonomisk variant, mål kvaliteten af svarene på dine virkelige spørgsmål, og ryk så op, hvis du ikke er i mål. At gøre det omvendt koster penge for ingenting.

Et felt til skrivetone lader dig beskrive, hvordan assistenten tiltaler dine læsere: graden af formalitet, stilen. Det felt er ikke der for at tilføje viden, det er der for at fastlægge stemmen.

Det bærer dog den mest nyttige instruktion på hele skærmen: den, der siger hvad den skal svare, når svaret ikke findes i dit indhold. Uden den foretrækker en assistent ofte at improvisere frem for at indrømme det. Skriv det udtrykkeligt: bed den om at sige, at den ikke ved det, og om at pege på din kontaktside. Én sætning, og din chatbot holder op med at opfinde.

To kontakter afgør, hvad der vises under svarene. Interaktive kildekort viser den artikel, begivenhed eller det sted, svaret er bygget på, og læseren åbner det med ét greb. En anden kontakt tilføjer en kopiknap på hver besked i samtalen.

Se på det svar: det er ikke bare korrekt, det siger, hvor det kommer fra. Hver opskrift, der citeres, bærer sit link til artiklen, og rækken af kort under samtalen fører læseren tilbage i indholdet. Det er den synlige forskel mellem en assistent, der øser af dig, og en assistent, der taler efter hukommelsen.

Slå kildekortene til. De gør tre ting på én gang: de beviser, at svaret virkelig kommer fra dig, de bringer læseren tilbage i dit indhold i stedet for at efterlade vedkommende i samtalen, og de giver dig en måde at tjekke din chatbot på med ét blik.

En mulighed for adgangsbegrænsning lukker chatbotten for forbipasserende besøgende og forbeholder den folk, der er logget ind eller abonnerer. Den læner sig op ad en af platformens to adgangsfamilier, udvidelsen med medlemskab i appen eller udvidelsen Authentication, så en af de to skal være aktiv i din app.

De to familier stables ikke: det er den forgrening, der er beskrevet i »Opbygge et fællesskab med din app«, og den afgøres på forhånd, ikke bagefter. Lever din app på et medlemskab i appen, er det dét, begrænsningen går gennem.

Det er en god kandidat til forbeholdt indhold. En assistent, der kender ti år af dit arkiv, har en værdi, en læser fatter med det samme, hvilket sjældent gælder for endnu en artikel.

RAG-chatbotten er en udvidelse, og dens side viser den pris, der gælder for din app. Den rummer en mængde credits, der fornyes hver måned, og en tæller øverst på skærmen viser den resterende saldo sammen med datoen for næste fornyelse. Den inkluderede mængde står på den samme side.

To ting bruger de credits, og ikke i samme forhold. Indekseringen af dit indhold koster lidt og sker én gang, og derefter ved hver udgivelse. Dine brugeres spørgsmål koster resten, og deres forbrug afhænger af den valgte model og af spørgsmålets kompleksitet. Med andre ord følger din regning dit publikum: det er en god nyhed, forudsat at du så den komme.

Den anden slags assistent læser ikke dit indhold. Den kobler en udgave af ChatGPT ind i din app, og du giver den en rolle.

Som enhver udvidelse viser dens side den pris, der gælder for din app, og den virker på begge produktlinjer, indholdsapps såvel som e-handelsapps.

Ligesom RAG-chatbotten er den en udvidelse, før den er en sektion, og den samme rækkefølge gælder: du slår den først til i Extensions Store › All extensions, og sektionen dukker først op i listen over typer, når det er gjort. Derefter finder du status for alle dine udvidelser i Extensions Store › Management.

Dens indstillinger åbner fra sektionens menu, gennem det punkt, der sætter assistenten op. Dens skærm har kun to faneblade, indstillinger og design, hvor RAG-chatbotten har fire. Det er forskellen i natur, synlig med det blotte øje.

Den første forskel ligger lige dér, og den er ikke ligegyldig. En blok med OpenAI-adgang beder dig om en hemmelig API-nøgle, som du opretter på din OpenAI-konto. Handelsforholdet bliver mellem dig og OpenAI: GoodBarber tager intet for samtalerne og intet undervejs.

Hvad det betyder i praksis: du opretter en konto hos OpenAI, du lægger en betalingsmetode på den, og du følger forbruget fra deres dashboard, ikke fra dit back office. Nogle nyere modeller kræver desuden, at din organisation er verificeret hos OpenAI, hvilket skærmen gør opmærksom på.

Kun tre felter, og det tredje bærer alt det øvrige. Du indtaster assistentens navn, du vælger en genereringsmodel fra en liste, der går fra den nyeste til den mest økonomiske, og så skriver du systembeskeden.

Den tekst er det eneste, der skiller din assistent fra en almindelig ChatGPT. Den beskriver dens rolle, dens tone og frem for alt det spænd af emner, den går med til at behandle. En assistent, der ikke har fået at vide, hvad den taler om, taler om alt, herunder ting, du ikke vil have i din app.

Skriv den i to dele. Først rollen, sagt enkelt: hvem den er, hvem den taler til, om hvilket emne. Så lukningen, lige så vigtig: hvad den skal svare, når spørgsmålet falder uden for emnet. Den anden halvdel er den, folk glemmer, og det er den, der holder assistenten på sin bane.

Ligesom RAG-chatbotten kan ChatGPT-udvidelsen forbeholdes dine brugere, der er logget ind, gennem den samme begrænsningsmulighed, og dens udseende sættes i fanebladet med design.

Den følger direkte af, hvordan den virker: denne assistent kender ikke dit indhold. Den ved ikke, hvad du udgav i går, eller hvad dine åbningstider er, eller dine priser, eller navnet på din nye kollektion. Spørger en bruger, svarer den alligevel, med hvad end modellen tror, den ved.

Systembeskeden mindsker den risiko, den fjerner den ikke. Gem derfor denne udvidelse til anvendelser, hvor svaret ikke behøver at være dit: en assistent, der rådgiver, der omformulerer, der leder nogen gennem de første skridt. Så snart svaret skal være præcist og efterprøveligt, er RAG-chatbotten dét, du har brug for.

Spørgsmålet afgøres på én enkelt linje: skal svaret komme fra dig?

Tre eksempler til at forankre reglen.

En skole. Paraigua udgiver sine kalendere, sine regler og sine cirkulærer. De samme spørgsmål vender tilbage hvert år, på de samme datoer, og hvert af dem har allerede sit svar skrevet et sted. Det er lærebogseksemplet på RAG: materialet findes, det er bare svært at nå.

En rejseguide. Portland beskriver steder, begivenheder, ruter. En besøgende, der spørger »hvad har åbent søndag formiddag nær havnen«, spørger om noget, indholdet svarer på, men som ingen menu lader vedkommende formulere. RAG igen.

En skønhedssalon. Freyja Spa har ingen samling dokumenter, men den har kunder, der tøver mellem to behandlinger. En assistent med rammer sat af en systembesked, som stiller to eller tre spørgsmål og styrer mod den rigtige ydelse, er nyttig uden at skulle kunne kataloget udenad. ChatGPT-udvidelsen er nok, og den koster ikke mere.

RAG-chatbotten findes kun på indholdsapps. En e-handelsapp kan ikke slå den til i dag. På den linje er ChatGPT-udvidelsen stadig til rådighed.

En chatbot svarer kun godt, hvis dit indhold svarer. Det er den grænse, der oftest opdages for sent. En assistent, der er koblet på tredive vage artikler, producerer tredive vage svar, og den gør et indholdsproblem synligt, som gik ubemærket hen, så længe ingen stillede spørgsmålet direkte. Før du slår den til, så genlæs det, du udgiver, og spørg dig selv, om en læser ville finde sit svar dér. Er svaret nej, er det indholdet, der skal arbejdes med, ikke modellen.

Du er stadig ansvarlig for det, din app siger. En assistent taler i dit navn, i din app, i dine farver. Test den med dine virkelige spørgsmål, før du udgiver, også de ubelejlige, og behold den instruktion, der beder den om at indrømme, hvad den ikke ved. En assistent, der svarer »det ved jeg ikke, skriv til os«, koster dig intet. En assistent, der opfinder dine åbningstider, koster dig en kunde.