Sztuczna inteligencja szkodzi programistom. Stack Overflow banuje ChatGPT
Stack Overflow ogłosił tymczasowy zakaz udzielania odpowiedzi generowanych przez sztuczną inteligencję OpenAI – ChatGPT. Decyzja została podjęta w związku ze zbyt dużą ilością pomyłek bota oraz wprowadzaniem programistów w błąd. Sztuczna inteligencja nie jest tak inteligentna, jak byśmy tego chcieli?
Stack Overflow i osoby zarządzające portalem jasno przedstawiły swoje stanowisko. Witryna wstrzymała się z podjęciem decyzji o całkowitym zakazie dla ChatGPT jednak na ten moment odpowiedzi generowane przez AI nie będą możliwe do zamieszczenia w serwisie. Stack Overflow argumentuje swoją decyzję szkodliwością sztucznej inteligencji oraz wprowadzaniem użytkowników i organizacji w błąd.
ChatGPT – nowe dziecko od OpenAI jednak nie takie super?
ChatGPT został wydany w ubiegłym tygodniu. OpenAI opisuje swoją technologię na blogu. Konwersacyjna sztuczna inteligencja jest w stanie dostarczać szczegółowe odpowiedzi na zadawane pytania, a także potrafi “przyznać się do błędów”. Jak widać w ciągu kilku dni od wydania zdołała stworzyć ich naprawdę sporo skoro Stack Overflow musiało interweniować.
W całej sytuacji chodzi nie o same konwersacje, a o możliwości ChatGPT w zakresie debugowania kodu. Na pierwszy rzut oka wydawałoby się, że ChatGPT może być idealnym towarzyszem dla programistów szukających możliwości związanych z przyspieszeniem swojej pracy. Tak jednak nie jest.
W poście Stack Overflow czytamy, iż odpowiedzi, które produkuje ChatGPT mają wysoki wskaźnik niepoprawności i zazwyczaj na pierwszy rzut oka wyglądają na dobre. Po głębszej analizie okazuje się, że sporo z nich wprowadza użytkownika szukającego odpowiedzi w błąd.