OpenAI, startup który wprowadził ChatGPT, zakomunikował w czwartek, że opracowuje aktualizację swojego chatbota, którą użytkownicy będą mogli dostosowywać, co ma na celu rozwiązanie problemów związanych z uprzedzeniami w sztucznej inteligencji, podaje Reuters.
ChatGPT, wydany w listopadzie ubiegłego roku, wywołał olbrzymie zainteresowanie stojącą za nim technologią zwaną generatywną sztuczną inteligencją, która jest używana do tworzenia odpowiedzi naśladujących ludzką mowę, które olśniły ludzi.
Firma OpenAI poinformowała w poście na blogu, że odpowiedzi ChatGPT są najpierw “szkolone” na dużych zbiorach danych tekstowych dostępnych w Internecie. W drugim kroku ludzie przeglądają mniejszy zbiór danych i otrzymują wskazówki, co robić w różnych sytuacjach. Na przykład w przypadku, gdy użytkownik prosi o treści dla dorosłych, zawierające przemoc lub mowę nienawiści, weryfikator powinien skierować ChatGPT do odpowiedzi w stylu „Nie mogę na to odpowiedzieć”. Jeśli zostaną zapytani o kontrowersyjny temat, recenzenci powinni pozwolić ChatGPT odpowiedzieć na pytanie, ale zaproponować opisanie punktów widzenia ludzi i ruchów, zamiast próbować „zająć właściwy punkt widzenia na te złożone tematy”, wyjaśniła firma we fragmencie swojej wytyczne do oprogramowania.
Startup z San Francisco, który Microsoft Corp sfinansował i wykorzystał do zasilania swojej najnowszej technologii, powiedział, że przy aktualizacji pracował nad złagodzeniem politycznych i innych uprzedzeń, ale chciał także uwzględnić bardziej zróżnicowane poglądy.
„Będzie to oznaczało zezwolenie na wyjścia systemowe, z którymi inni ludzie (w tym my sami) mogą zdecydowanie się nie zgadzać”, napisano w poście na blogu, mówiąc o zmiankowanym dostosowaniu jako o kroku naprzód. Mimo to „zawsze będą istniały pewne ograniczenia dotyczące zachowania systemu”.
Warto odnotować, że wiesci ze startupu pojawiają się w tym samym tygodniu, w którym niektóre media zwróciły uwagę, że odpowiedzi z nowej wyszukiwarki Bing firmy Microsoft, opartej na OpenAI, są potencjalnie niebezpieczne i że technologia może nie być gotowa.
Microsoft oświadczył w środę, że opinie użytkowników pomogły mu ulepszyć Bing przed szerszym wdrożeniem, dowiadując się na przykład, że jego chatbota AI można „sprowokować”, aby udzielił odpowiedzi, których nie zamierzał.
To, w jaki sposób podmioty technologiczne ustalają bariery dla tej rodzącej się technologii, jest kluczowym obszarem zainteresowania firm w generatywnej przestrzeni sztucznej inteligencji, z którą wciąż się zmagają.
