news.humanistyka.dev

Sir Mewlington Von Pissbreath to kot, który nosi cylinder, mówi po kantońsku i lubi słodycze - tak przynajmniej jeszcze w lutym informowało Google AI Overviews. Ograniczenia systemów AI można dość łatwo udowodnić, a modelami nieraz skutecznie manipulować za pomocą zatruwania danych treningowych albo przejmowania kontroli nad promptami. Trudno jednak takie metody uznać za formy oporu przeciwko eksploatacji twórczości czy zalewaniu internetu przez maszynowy slop.

Kolejny projekt modelu językowego z wczesną datą odcięcia wiedzy (1913 rok) ma charakteryzować się wysoką odpornością na posługiwanie się językiem współczesnym i obecność anachronizmów w generowanych odpowiedziach. Niestety, za efektywność językową i skuteczność w codziennej pracy z modelem odpowiada też jego wielkość, a wciąż nie mamy dostępu do odpowiednio obszernych i gotowych do wykorzystania historycznych danych treningowych, pozwalających budować naprawdę duże modele.

W benchmarku sprawdzono modele pracujące z tekstem, dźwiękiem i obrazem na 900 dość złożonych zadaniach odnoszących się do polskiej historii, kultury i życia codziennego. Czołowe modele uzyskały w tym teście w miarę dobre wyniki, polskie mogły być testowane tylko w niektórych kategoriach, a i tak poradziły sobie słabo. Okazuje się, że samo dostrojenie modelu do polskiego kontekstu kulturowego nie wystarcza. Może zamiast pracować nad modelami ogólnego przeznaczenia, lepiej rozwijać te specjalistyczne, dostosowane do niszowych zadań w polskiej administracji, nauce czy sektorze dziedzictwa?

Okazuje się, że nawet w siedzibie warszawskiego biskupa można bez żadnej reakcji krytykować humanizację debaty o sztucznej inteligencji i przyznawać AI niepodważalną wartość poznawczą, geopolityczną i gospodarczą.

Czy da się rozpoznać tekst wygenerowany przez AI bez korzystania z detektora? Być może czasem wystarczy uważnie przeczytać pracę i dobrze znać wykorzystane w niej źródła. Analiza przypisów, rozpoznanie nieporadnych tłumaczeń i wykrycie oraz zbadanie konstrukcji parafraz może dostarczyć więcej informacji niż automatyczna detekcja, z którą - jak się okazuje - wciąż są duże problemy.

Narracja o "wyścigu AI" i bezwzględnej konieczności wspierania innowacji negatywnie wpływa na politykę regulacyjną UE. Do tego największe firmy technologiczne coraz silniej wpływają na wiedzę, na której opierają się decyzje regulacyjne, prowadząc do epistemicznego zawłaszczenia procesu stanowienia prawa. Hype na AI i funkcjonowanie systemu prawa wydają się ze sobą sprzeczne, ostatecznie jednak hype wymusza przyspieszenie procesów tworzenia przepisów i skłania decydentów do podejmowania pochopnych decyzji.

Już w 2016 roku szacowana wartość chińskiego rynku internetowych influencerów miała być wyższa niż roczne przychody chińskich kin ze sprzedaży biletów. Dekadę później, wraz z upowszechnieniem się narzędzi sztucznej inteligencji, na tym rynku swoje miejsce znaleźli wanghong, których kreatywność polega na skutecznej optymalizacji maszynowo generowanych treści pod kątem algorytmów platform, a masowe wytwarzanie slopu staje się dla nich drogą awansu społecznego.

W dyskusjach o sztucznej inteligencji nieczęsto przywołuje się pojęcie wyjaśnialnej sztucznej inteligencji (explainable AI, XAI), jeszcze rzadziej pojawiają się konkretne przykłady metod, za pomocą których moglibyśmy w przejrzysty sposób wyjaśnić decyzje podejmowane przez algorytmy. Na czym właściwie miałoby polegać wyjaśnienie zasad działania modelu klasyfikacyjnego? Jak można analizować nie tylko wynik proponowanych predykcji, ale też proces ich podejmowania?

Generujemy w Midjourney obrazek, wpisując w prompcie frazę "rzetelność intelektualna". Otrzymujemy portret młodego mężczyzny w stroju biurowym i okularach, siedzącego w bibliotece nad wielką starą książką. Na biurku leży też stos innych książek, drugie okulary, pięknie czerwone jabłko i… czaszka. Dlaczego otrzymaliśmy taki, a nie inny wizerunek? Odpowiedź na to pytanie ułatwić może skorzystanie z medialno-materialistycznej metody analizy maszynowych obrazów, opisanej w kwietniu tego roku na łamach czasopisma "Convergence".

Przez ostatnią dekadę na zapomnianej wiki Deutsches Software Entwickler pojawiło się tylko 20 zmian. Nagle, między majem a lipcem tego roku, przybyło tam ponad 18 tys. wpisów. Wszystkie zostały wygenerowane maszynowo przez agenty AI, które ominęły narzucone im ograniczenia i wykorzystały wiki jako platformę do wymiany informacji na temat najbardziej efektywnych sposobów rozwiązywania zleconych im zadań. Obserwowanie imponującej efektywności autonomicznych botów nie powinno jednak inspirować nas do zmiany języka, którym ją opisujemy.

W latach 2023-2025 znormalizowany średni wynik odpowiedzi na maturze z historii wynosił 44 proc. i okazał się rażąco niższy od wyników wygenerowanych przez duże modele językowe (od 87 do 98 proc.). Nie oznacza to jednak, że matura z historii jest źle zaprojektowana albo że modele językowe mają lepszą wiedzę o historii niż polscy uczniowie. Wiedza to nie tylko znajomość faktów i dat, ale też umiejętność poruszania się między nimi i zdolność krytycznego rozumienia tekstów, a z tym modele językowe mają wciąż ogromne problemy.

Czytanie akademickiego slopu zabrało mi czas, który mógłbym przeznaczyć na wartościową lekturę. Chociaż nie dowiedziałem się niczego na temat nowych gatunków literackich, powstających przy użyciu “AI”, przypomniałem sobie o znaczeniu cytowań oraz sprawdziłem, że duże modele językowe potrafią skutecznie rozpoznawać ślady wskazujące na maszynowe pochodzenie tekstu naukowego.

Zalew wygenerowanych maszynowo publikacji powoduje erozję rynku książki, na którym oryginalne teksty autorskie wypierane są przez syntetyczne substytuty. Ich powstanie i sukces komercyjny wynika jednak nie tylko ze skali i niemal zerowych kosztów produkcji, ale też z bezpośredniego wykorzystania tekstów autorskich. Kiedy dostępność maszynowych publikacji rośnie, spadają dochody twórców autorskich prac - w programie Kindle Unlimited każde wypożyczenie książki wygenerowanej przez AI bezpośrednio uszczupla pulę środków przeznaczoną dla prawdziwych autorów.

Systemy wyszukiwania AI - ChatGPT, Copilot, Gemini, Perplexity - traktują treści syntetyczne jako wiarygodne, korzystają z wąskiej grupy uznanych domen oraz szerokiego zbioru mało znanych witryn niskiej jakości. Treści z tych witryn bywają maszynowo generowane i dostosowywane są do dynamiki wyszukiwania, preferującej jasne, konkretne odpowiedzi, pozbawione szerszego kontekstu i niuansów.

W publicznej dyskusji o AI wyróżnić można silną i słabą narrację. Ta pierwsza zwraca uwagę mediów i pozwala pozycjonować się jako wizjoner lub mistyk, ale też ułatwia rozmywanie odpowiedzialności za działanie systemów sztucznej inteligencji i powiela marketing wydawców wielkich modeli. To opowieść o przełomach, nowych bytach i cywilizacyjnej przyszłości. Ta druga to domena akademików i nudziarzy z niszowych mediów, to pytania o dane, koszty, błędy, ograniczenia i stronniczość pozornie autonomicznych systemów.