Schlagwort: Perplexity

  • „Perplexity“: Neue KI-Funktion sorgt für Furore und Bedenken
    (Illustration: Marcus Schwarze/Midjourney, KI-generiert)

    „Perplexity“: Neue KI-Funktion sorgt für Furore und Bedenken

    In Per­ple­xi­ty ist es seit ver­gan­ge­nem Don­ners­tag mög­lich, eige­ne Sei­ten ein­zu­rich­ten. „Kura­tiert von mar­cus­schwar­ze“, steht dann dar­über. Doch in Wahr­heit unter­nimmt Per­ple­xi­ty die Zusam­men­stel­lung. Zu einem belie­bi­gen The­ma schnappt sich die Maschi­ne öffent­lich zugäng­li­che Infor­ma­tio­nen. Ich habe es mit den Nach­wir­kun­gen auf das Ras­sis­mus-Video von Sylt aus­pro­biert. Inner­halb von Sekun­den hat die KI nahe­zu alles zusam­men­ge­tra­gen, was man dazu wis­sen muss; die Reak­tio­nen aus der Poli­tik, Aus­wir­kun­gen auf Betrof­fe­ne (wobei die Maschi­ne die dis­kri­mi­nier­ten Per­so­nen meint, nicht die im Video sicht­ba­ren Gröl­hei­nis), die Rol­le der sozia­len Medi­en und die Kon­se­quen­zen für die Par­ty­gäs­te. Illus­triert wird das The­ma mit einem Screen­shot eines You­Tube-Vide­os des NDR.

    Wer sich als Redak­ti­on ernst­haft mit dem The­ma befasst, hat so ohne Wei­te­res die nöti­gen Infor­ma­tio­nen. Immer­hin ver­linkt Per­ple­xi­ty auf die­ser Sei­te die jeweils genutz­ten Quel­len, von „Süd­deut­scher Zei­tung“ bis Tages­schau. Dass hier­bei auch die „Jun­ge Frei­heit“ als Sprach­rohr der „Neu­en Rech­ten“ vor­kommt, zeigt die Unbe­darft­heit der KI.

    (Illus­tra­ti­on: Mar­cus Schwarze/Midjourney, KI-generiert)

    Auch an ande­rer Stel­le macht Per­ple­xi­ty Bedenk­li­ches. In einer kura­tier­ten Sei­te über mein Lieb­lings­the­ma KI zitiert sie aus einem Text, der eigent­lich hin­ter der Bezahl­schran­ke des Medi­ums steht. Wo mensch­li­che Leser zum Abschluss eines Abos auf­ge­for­dert wer­den, holt sich die KI den Inhalt aus dem Quell­text der Sei­te. Ver­mut­lich wer­den eini­ge Betrei­ber von Con­tent-Manage­ment-Sys­te­men ihre Bezahl­schran­ken umpro­gram­mie­ren müs­sen, damit sie die Inhal­te nicht im Quell­text preisgeben.

    Ver­stö­rend ist die Leich­tig­keit, mit der die Maschi­ne die The­men abar­bei­tet. In einer Rubrik „Ent­de­cken“ zeigt Per­ple­xi­ty die wich­tigs­ten The­men der ver­gan­ge­nen Tage: den Sieg von Real Madrid in der Cham­pi­ons League, einen neu­en Strea­ming­dienst für KI-Inhal­te, den Start­ab­bruch einer Nasa-Rake­te. Das sind The­men, die ein „Per­ple­xi­ty-Team“ ein­ge­stellt hat. Wer will, stellt sich auf glei­che Wei­se die Top-Koch­bü­cher für 2024 zusam­men oder die Top Zehn der YouTuber.

    Das ist alles nur geklaut, was die KI hier als „eige­ne“ Inhal­te aus­wirft. Der eine und die ande­re wird even­tu­ell als ver­link­te Quel­le eini­ge Klicks abbe­kom­men, doch dürf­te vie­len die hand­li­che Über­sicht reichen.

    Wie Jour­na­lis­mus mit­tel­fris­tig zu finan­zie­ren ist, bleibt unklar. Die auf­wen­di­ge Recher­che einer klas­si­schen Redak­ti­on wird die KI wahr­schein­lich wei­ter­hin nicht erset­zen. An die­ser Nach­rich­ten­auf­be­rei­tung ver­dient zur­zeit nur Per­ple­xi­ty: Der Pro-Dienst kos­tet 20 Dol­lar im Monat. Dahin­ter ste­hen als Inves­to­ren unter ande­rem Jeff Bezos, der Grün­der von Ama­zon, und Nvi­dia, der Her­stel­ler von Gra­fik­kar­ten für PCs. Frei­lich hat Per­ple­xi­ty auch Kos­ten durch sol­che Sei­ten und die Auf­be­rei­tung der Tex­te durch KI-Maschi­nen. Zum Ein­satz kom­men wahl­wei­se ein eige­nes Per­ple­xi­ty-Modell oder die KI-Diens­te GPT-4o oder GPT‑4 Tur­bo von Ope­nAI sowie Clau­de 3 von Anthropics.

  • Neue Maschinen unter der KI-Motorhaube

    Neue Maschinen unter der KI-Motorhaube

    Zum Bei­spiel Dan­te AI: Neben GPT‑4 von Ope­nAI und dem Vor­gän­ger­mo­dell GPT‑3.5‑Turbo kön­nen neu­er­dings auch das Open-Source-Modell Fal­con LLM und das Modell LlaMA 2 von Face­book-Anbie­ter Meta hin­ter­legt werden.

    Zum Bei­spiel Per­ple­xi­ty AI: Hier kann statt GPT‑4 von Ope­nAI wahl­wei­se auch das Modell Clau­de 2 oder ein eige­nes Modell von Per­ple­xi­ty ein­ge­rich­tet werden.

    Mal eben die Maschi­ne wech­seln: Bei Dan­te AI ste­hen mitt­ler­wei­le meh­re­re Sprach­mo­del­le zur Aus­wahl. (Screen­shot: Schwarze)

    Hin­zu kommt, dass GPT‑4 nach Beob­ach­tung von Fach­leu­ten zuletzt an Qua­li­tät ein­ge­büßt hat. So konn­ten Anwalts­kanz­lei­en vor vier, fünf Mona­ten der Maschi­ne durch­aus brauch­ba­re Vor­la­gen fürs rechts­kon­for­me Inter­net-Impres­sum oder eine Daten­schutz­er­klä­rung ent­lo­cken. Mitt­ler­wei­le pro­du­ziert GPT‑4 häu­fi­ger Müll.

    Auch mir erging es zuletzt häu­fi­ger so: Einst gut funk­tio­nie­ren­de Prompts fürs Zusam­men­fas­sen von Sach­ver­hal­ten in mei­nem, der Maschi­ne antrai­nier­ten Duk­tus las­sen nun häu­fi­ger Anfor­de­run­gen offen. Es half, auf GPT‑3.5 statt 4 zu wechseln.

    GPT‑4 mit nachlassender Qualität

    Die nach­las­sen­de Qua­li­tät von GPT‑4 bestä­tigt in Tei­len eine Stu­die der Uni­ver­si­tä­ten Stan­ford und Ber­ke­ley: In drei von vier getes­te­ten Fel­dern nahm die Leis­tung zwi­schen März und Juni ab. Konn­te die Maschi­ne im März noch 97,6 Pro­zent an Prim­zah­len erken­nen, waren es im Juni nur noch 2,4 Prozent.

    Die KI-Welt wird somit komplizierter.

    Nun könn­te man schluss­fol­gern, dass die Viel­zahl aus Gagafra­gen aus aller Welt bei GPT‑4 in den ver­gan­ge­nen Mona­ten für Ver­wir­rung und Durch­ein­an­der sorgt. Doch hat Open AI stets betont, dass die Chat­ver­läu­fe aus Daten­schutz­grün­den nicht in das Modell ein­flie­ßen. Wahr­schein­li­cher ist, dass die Macher ihr Modell wei­ter­ent­wi­ckeln und vor allem Rechen­zeit pro Anfra­ge ein­spa­ren – nicht immer zum Besten.

    Wie einst in der Schrau­ber­sze­ne für Autos tunen heu­te Enthu­si­as­ten ihre zusam­men­ge­klick­ten KI-Maschi­nen, bau­en etwa ein ande­res Sprach­mo­dell als GPT‑4 als neu­en Motor ein. Wie sich die Moto­ren unter­schei­den, erschließt sich bei den merk­wür­di­gen Namen wie LlaMA und Fal­con aller­dings nur Spe­zia­lis­ten. Schrau­ben dann zusätz­lich die Macher von GPT‑4 im Hin­ter­grund an den Para­me­tern, ist guter Rat teu­er: War­um schwankt die Qua­li­tät der Antworten?

    Die Inge­nieu­re bei Ope­nAI hal­ten sich mit Ant­wor­ten dazu eher zurück. Doch scheint der Markt sich neu zu ori­en­tie­ren: Der Traf­fic auf der Web­sei­te ope​nai​.com ging laut Simi­lar­web von Mai (1,9 Mil­li­ar­den Visits) bis Juli (1,5 Mil­li­ar­den) deut­lich zurück.

    Wer will, baut sich viel­leicht lie­ber auf dem eige­nen Rech­ner eine eige­ne KI nach, dafür gibt es die Anwen­dung GPT4All. Auch hier kön­nen GPT‑4 und 3.5, aber auch LlaMA 2 und ande­re Model­le hin­ter­legt werden.

    Wer sind Sie und was wollen Sie?

    Hin­zu kom­men bei den kom­mer­zi­el­len Diens­ten Per­ple­xi­ty und Dan­te AI vor­zu­ge­ben­de Ran­dum­stän­de, an denen sich die jewei­li­gen KIs ori­en­tie­ren sol­len. Beim her­kömm­li­chen GPT‑4 füllt man dafür zwei Fel­der aus, in denen man zunächst die eige­ne Rol­le („Ich bin CEO und brau­che kla­re, poin­tier­te Ant­wor­ten, auch Hin­wei­se auf mög­li­che feh­ler­haf­te Ent­schei­dun­gen“) und dann die Wün­sche an die Ant­wor­ten for­mu­liert („Genaue Ant­wor­ten, erfin­de nichts“).

    Bei Per­ple­xi­ty soll man ein­ma­lig ein­stel­len, wer man ist, wo man hin­will, was man sonst so macht. (Screen­shot: Schwarze)

    Bei Per­ple­xi­ty AI wird das aus­führ­li­cher. Die Maschi­ne möch­te Infos über den eige­nen Stand­ort, in wel­cher Spra­che zu ant­wor­ten ist, eige­ne Hob­bys und Inter­es­sen, den Beruf und künf­ti­ge Ziele.

    Per­ple­xi­ty gibt dadurch genaue­re Ant­wor­ten, die auf den Fra­gen­den bes­ser abge­stimmt sind. Hin­zu­schalt­bar ist außer­dem ein „Copi­lot“: Dann ant­wor­tet Per­ple­xi­ty nicht ein­fach drauf­los, son­dern stellt durch­aus intel­li­gen­te Ver­ständ­nis­fra­gen. Oder schaut im Inter­net nach.

    Das Nut­zer­inter­face ist dabei gewöh­nungs­be­dürf­tig. So wird fürs Zusam­men­fas­sen eines län­ge­ren Tex­tes zurück­ge­fragt, wel­chen the­ma­ti­schen Schwer­punkt die Zusam­men­fas­sung haben soll – und macht auch gleich kom­ma­se­pa­rier­te Vor­schlä­ge. Will man dann zwei, drei Schwer­punk­te aus­wäh­len, ver­schwin­den sie beim Ankli­cken und müs­sen manu­ell ein­ge­tippt wer­den – lästig.

    Die Maschine schaut selbst im Internet nach

    Inter­es­sant ist Per­ple­xi­ty aber auch des­halb, weil es von Haus aus Inter­net­re­cher­chen zum Beant­wor­ten anstel­len kann. Die Quel­len wer­den ange­ge­ben. Auch ist es mög­lich, eine Datei hoch­zu­la­den und gezielt Fra­gen dazu zu beant­wor­ten. „Wor­um geht es in dem Video?“ – die Fra­ge samt benann­ter You­Tube-Adres­se bringt die Maschi­ne zu einer ordent­li­chen Zusam­men­fas­sung; wenn­gleich sie auch Din­ge aus ande­ren Quel­len hin­ein­mengt, dies aber meist trans­pa­rent macht.

    Per­ple­xi­ty kos­tet wie GPT‑4 20 Dol­lar im Monat. Vor­ein­ge­stellt ist die Nut­zung der eige­nen Chat­ver­läu­fe durch das Unter­neh­men dahin­ter, um das Per­ple­xi­ty-Sprach­mo­dell zu ver­bes­sern. Das kann man abschalten.

    Ins­ge­samt bie­tet Per­ple­xi­ty über GPT‑4 hin­aus­ge­hen­de Funk­tio­nen wie die Alter­na­ti­ve Clau­de 2 als Sprach­mo­dell, das viel län­ge­re Prompts erlaubt, und die schnel­le Live-Suche auf Inter­net­sei­ten. Beim alten GPT‑4 gelingt Ver­gleich­ba­res nur mit Plugins.

    A car in a workshop with its hood open. A female child as a mechanic stands in front of it, tool in hand, she looks into the car's motor, in the process of replacing the conventional engine with a futuristic AI unit. Medium: Photography. Style: Style: Hyper-realism, inspired by the work of Robert Bechtle. Lighting: Natural light filtering through the garage windows. Colors: Earth tones, grays, and metallic hues. Composition: Nikon D850, Nikkor 85mm f/1.4G lens, Resolution 45.7 megapixels, ISO sensitivity: 25,600, Shutter speed 1/200 second.
    Illus­tra­ti­on: KI-gene­rier­t/­Mid­jour­ney­/­Schwar­ze. Prompt: sie­he Alt-Text.

    Sind Per­ple­xi­ty und Dan­te damit Aspi­ran­ten auf die Nach­fol­ge oder Wach­ab­lö­sung von GPT‑4? Nein, dazu feh­len ihnen weit­ge­hend die eige­nen Trai­nings­da­ten. Doch ist der simp­le Aus­tausch des Motors auch von frem­den Anbie­tern unter der Hau­be etwas, das ChatGPT nicht bie­tet. Und dann ist auch noch die Funk­ti­on „Advan­ced Data Ana­ly­sis“ bei GPT‑4, die das Hoch­la­den eige­ner Doku­men­te erlaubt.

    Der Markt wird unübersichtlich

    Die Funk­tio­na­li­tä­ten der KIs wer­den wei­ter rasant erwei­tert. Der Markt wird für Lai­en zuse­hends unüber­sicht­lich. Rund 7.500 KI-Diens­te ver­sam­melt die „Über­sicht“ namens There’s an AI for that. Was da jeweils unter der Motor­hau­be steckt und Erfolg hat, muss der Markt sich­ten und richten.

    Und da haben wir bis­her nicht über wei­ter­hin agie­ren­de gro­ße alter­na­ti­ve Diens­te wie von Goog­le („Bart“ und „Duet AI“) und der angeb­li­chen euro­päi­schen Alter­na­ti­ve Aleph Alpha aus Hei­del­berg gespro­chen. Für Duet AI habe ich mei­ne Frei­schal­tung zum Tes­ten bean­tragt, bei Aleph Alpha befand ich die Ant­wort­qua­li­tät nach einem Test auf deren Spiel­wie­se nicht kon­kur­renz­fä­hig. Die Ansprü­che steigen.