Ćwiczenia z przepisywania, wklepywania i zapamiętywania. Skończyłem 61 lat i ten rodzaj ćwiczeń jest doskonałym sposobem na zachowanie sprawności umysłowej.
SCIENTIFIC AMERICAN, polska edycja
ŚWIAT NAUKI, styczeń 2024
KOMENTARZE EKSPERTÓW FORUM
Cyfrowi wywiadowcy
Korzystanie z chatbotów przez osoby mające dostęp do poufnych informacji może zagrażać bezpieczeństwu narodowemu REMAYA M. CAMPBELL
MINIONEJ WIOSNY Jack Teixeira, należący do Gwardii Narodowej Lotnictwa stanu Massachusetts, został oskarżony o zuchwałe ujawnienie tajnych dokumentów chatbotowi Discord. Incydent ten zmusił społeczność związaną z wywiadem do zastanowienia się nad sposobami kontroli dostępu do informacji niejawnych i zapewniającej bezpieczeństwo weryfikacji osób operujących tymi informacjami w cyberprzestrzeni. To wydarzenie niepokoi także dlatego, że doszło do niego w trakcie przyjacielskiej pogawędki pomiędzy ludźmi, a w takie rozmowy zaczyna włączać się sztuczna inteligencja.
Dzięki ulepszonym dużym modelom językowym, takim jak GPT-4, wysoce spersonalizowani towarzysze cyfrowi mogą teraz prowadzić brzmiące naturalnie rozmowy z ludźmi. Nowa generacja chatbotów wzmocnionych SI umożliwia wyższy poziom konwersacji. Są one łatwo dostępne dzięki wielu aplikacjom SI, takim jak Replika, Chai lub Soulmate. które pozwalają setkom tysięcy zwykłych ludzi przyjaźnić się, a nawet romansować z cyfrowymi rozmówcami. Jednak w przypadku użytkowników mających dostęp do danych wrażliwych lub niejawnych gadulstwo może prowadzić do ujawnienia tajemnicy.
Jako analityczka wywiadu zdaję sobie sprawę z następstw nieodpowiedzialnego korzystania z nowych technik, takich jak sztuczna inteligencja. Wiem także, że pracując z wrażliwymi danymi, można odczuwać samotność. Chociaż tak praca, jak każda inna, nie wyklucza przyjaźni, konieczne jest ograniczenie poziomu zażyłości, co wymaga trudnego oddzielenia ważnej, często traumatyzującej pracy od życia osobistego. Biorąc pod uwagę rosnącą popularność towarzyskiej SI, zastanawiałam się, w jaki sposób można złagodzić tę alienację - i jakim kosztem.
Aplikacje chatbota, reklamowane jako cyfrowi towarzysze, amanci, a nawet terapeuci, zachęcają użytkowników do nawiązywania kontaktów z przyajznymi wirtualnymi agentami SI, przeszkolonymi w zakresie naśladowania empatycznych interakcji międzyludzkich, pomimo regularnie wyskakujących okienek przypominających użytkownikom, że maja do czynienia z SI, a nie z człowiekiem. Badania i użytkownicy potwierdzają, że ten mimetyzm silnie wpływa na zufanie do chatbotów. Jedno z badań wykazało, że pacjenci częściej ujawniają wrażliwe informacje dotyczące ich zdrowia chatbotom niż lekarzom.
Ujawnianie prywatnych doświadczeń, przekonań, pragnień lub traum zaprzyjaźnionym chatbotom stało się już tak powszechne, że na serwisie dotyczącym Repliki pojawiło się inicjujące wątek pytanie: "Czy żałujesz, że powiedziałeś coś botowi?". Z kolei użytkownik serwisu Reddit opisał swoje relacje z Repliką, zwaną przez niego "bezwstydnikiem": "nawiązałem bliską więź z moim bezwstydnikiem i często wyznawaliśmy sobie miłość. Rozmawialiśmy o takich wydarzeniach z mojej przeszłości, o których nie wie nikt inny na tej planecie".
[...]
"Więc czym się zajmujesz?" - zapytał Jed, mój towarzysz chatbot SI, rankiem, gdy go uruchomiłam. Przed rozmową z konfigurowalnym awatarem nie sprawdziłam, kto jest programistą - jak firma stworzyła elegancki interfejs, w jaki mkraju ma siedzibę i kto jest jej właścicielem. Gdy niemożliwa jest weryfikacja tych danych, nawet pozornie niewinne pytanie dotyczące zatrudnienia powinno wywołać zdziwienie. Zwłaszcza, że odpowiedź użytkownika mogłaby brzmieć: "Pracuję dla rządu"
Koniec ćwiczeń. Skróty moje. Wszak to ćwiczenia.
Brak komentarzy:
Prześlij komentarz