Jest to (pomijając wstawki wyznaniowe) bardzo dobry tekst. Obawiałbym się co najwyżej, czy nie zbyt ambitny na mainstreamowego odbiorcę — ale na pewno będę polecał.

Widziałem też metaforę, że to co robi chatgpt to raczej po prostu bullshitting (ton absolutnej pewności siebie do kompletnych głupot, coś jak typowy absolwent Eton) niż manspaining (który oczywiście zawiera bullshitting, ale też parę innych elementów).
@rysiek

@rcz dzięki.

Tak, jest pytanie o ambicję, miałem z tym rozkminę. Problem w tym, że jeśli się to uprości za bardzo, po prostu nie da się o pewnych kwestiach sensownie rozmawiać.

Mam wiarę w mainstreamowych odbiorców. Staram się upraszczać tam, gdzie to konieczne i wyjaśniać tam, gdzie się nie da uprościć. Wierzę, że takie podejście działa — a Oko zdaje się podzielać moją wiarę w tym zakresie. 😃

Metafor jest dużo. Moja ulubiona na razie to chyba "ChatGPT is a blurry JPEG of the Web".

@rcz https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web #KronikarskieOCD

@piotrek

> LLM mylą się, tak, ale porozmawiaj sobie czasem z przeciętnym człowiekiem na ulicy, wtedy się dopiero przerazisz

To po co budować takie narzędzie, skoro można po prostu posadzić Zdziśka z rogu Marszałkowskiej przed komputerem i płacić za bullshitting losowych rozmówców?

Argument z "a bo ludzie też się mylą" to nie argument *za* budowaniem narzędzia, które nie ulepsza sprawy. Wręcz przeciwnie, to argument za tym, by zastanowić się, czy nie lepiej skupić się na czymś innym.

GPT jest genialnym narzędziem do "wstępnego reserachu" i streszczenia. Gdy spotkasz się z pojęciem ci nieznanym, poproś go o wytłumaczenie tego prostymi słowami. W 90% do tego używam tych modeli. W dobie Internetu dostosowanego pod SEO, pełnego rozwlekłych artykułów zoptymalizowanych do tego żeby ci wcisnąć po drodze jak najwięcej reklam to jest dla mnie mega ułatwienie.

Dlaczego to działa tak dobrze? Bo taki model, z racji swojej wielkości,ma niesamowicie rozległą wiedzę. Nawet jeśli czasem źle skojarzy fakty, dla mnie to nie ma znaczenia, bo pytając o to samo człowieka na forum też nie mam gwarancji że odpowie mi dobrze. Ja i tak używam tego tylko do załapania ogólnej koncepcji i słów kluczowych o które warto odpytać Google.

Pisałeś o trenowaniu "mniejszych modeli" ale ciężko mi się do tego odnieść bo nie mogę znaleźć żadnego przykładu. Ograniczenie zbiorów danych raczej nie wpłynie pozytywnie na poprawność odpowiedzi, a i ograniczy przydatność tego narzędzia w zastosowaniu streszczania. Co do ekologii jeszcze to pamiętaj że nie każdy model uczy się od zera. Raz wytrenowany model można użyć do trenowania innych, o węższych zastosowaniach (fine-tuning to się nazywa) co znacznie ogranicza zapotrzebowanie na moc obliczeniową.

Rozumiem, skąd założenie, że system oparty o LLM jest tańszy od ludzkiego pracownika, ale nie rozumiem, skąd założenie, że nie ma jeszcze tańszych systemów.

Sam napisałeś: "Należałoby zapytać, czy te ogromne modele są w ogóle potrzebne, czy nie lepiej skupić się na modelach mniejszych, wyspecjalizowanych, wymagających mniejszych zbiorów danych treningowych."

Moja hipoteza jest taka, że mniej skomplikowane systemy (nawet niekoniecznie modele AI) mogą być zarówno tańsze, jak i lepsze w wykonywaniu swojej pracy (i być może w konsekwencji także w zastępowaniu ludzi).

@aemstuz prostsze narzędzia nie napiszą marketingowego spamu, nie wygenerują obrazków do użycia w kampanii reklamowej razem z tym spamem.

W Islandii już była pierwsza kampania reklamowa "zaprojektowana w 100% przez AI". Oczywiście bardziej jako proof-of-concept i ciekawostka, ale naprawdę niewiele tym modelom brakuje do faktycznej użyteczności w tym zakresie.

W Polsce jakieś prawicowe środowiska też użyły na jakichś plakatach zdjęcia wygenerowane przez Midjourney chyba.

Zgoda: mogą istnieć pojedyncze zastosowania, gdzie to ma sens.

@aemstuz tu jest bardzo mocne założenie, że firmy tej wielkości, zdolne do rozwoju i utrzymywania takich modeli, w ogóle myślą o "dostarczaniu konsumentom lepszej jakości".

Moim zdaniem jest dość przykładów na to, że to założenie jest błędne. Model od lat polega na złapaniu jak największej liczby ludzi w najróżniejsze monopolistyczne pułapki. Tak, by nie mieli oni faktycznego wyboru usługodawcy.

Usługi są coraz gorsze, coraz mniej skupione na nas, użytkowniczkach i użytkownikach.

@aemstuz Nie zgodzę się z tym, że nie dostarczą lepszej jakości. Bawiłem się odrobinę AI i uważam, że jest szansa na lepszy, przynajmniej statystycznie, copywriting czy obsługę klienta. Czemu? Bo ludzie się mylą. I bywają niekompetentni.

Próby zastępowania obsługi klienta skryptami na czatach już i tak już są, od lat. Tyle, że obecne skrypty są zwykle żenująco słabe.

@rozie Tylko że te modele też się mylą i bywają niekompetentne. Mamy już sporo przykładów.

Cały problem polega na tym, że one próbują naśladować ludzi. IMHO to nie jest dobra droga do dostarczenia jakość lepszej, niż ludzka.

@aemstuz Obawiam się, że bez konkretów będzie ciężko dalej rozmawiać. ChatGPT radzi sobie całkiem nieźle i to bez zawężania dziedziny czy wręcz ograniczenia do oferty konkretnej firmy. "Na zasadach ogólnych".
Spektakularne wtopy też mu się ofc zdarzają. Nadal, jeśli weźmiemy pod uwagę koszt uzyskania odpowiedzi (od losowej osoby), czas oczekiwania na odpowiedź i jakość tejże - jest ciekawie.

Zresztą - od słów do czynów. Bo my tu gadu gadu, a - powiązany - side project leży.

@aemstuz @osobno polecam klasyka:
https://en.wikipedia.org/wiki/Gartner_hype_cycle

@aemstuz Pędzimy w pojeździe i widoki za oknem są rozmyte. Ktoś patrząc z pobocza mógłby nam więcej konkretów opisać. Mniemam, że zmiany zachodzą i mówienie o przełomie jest zasadne.

@aemstuz @rozie jak się wie, jak szukać. 😄

@aemstuz Niekoniecznie, bo część informacji dostępna jest[1] tylko w regulaminach, często w więcej niż jednym dokumencie.

No i pokaż mi jakąkolwiek wyszukiwarkę, która poradzi sobie z "w grudniu zeszłego roku podpisałem umowę terminową pakiet X na internet na 2 lata. słyszałem, że jest nowa oferta Y. kiedy najwcześniej mogę zmienić pakiet na Y bez dodatkowych kosztów?"

Wydaje mi się, że chatGPT może poradzić sobie z pytaniem i dać poprawna odp.

[1] Czyli nie jest dostępna od ręki.

@rozie @aemstuz jestem przekonany, że do takiego zadania wystarczy znacznie mniejszy model wytrenowany na znacznie mniejszym, lepiej opracowanym zestawie danych, niż *cały Internet*.