Z nowego raportu Uniwersytetu Stanforda wynika, że główni twórcy podstawowych modeli sztucznej inteligencji (AI) muszą zachować większą przejrzystość w zakresie sposobu trenowania swoich modeli i ich wpływu na społeczeństwo.
Kalifornijski uniwersytet twierdzi, że za pośrednictwem sztucznej inteligencji skupionej na człowieku (HAI) Stanforda te czołowe firmy zajmujące się sztuczną inteligencją stają się coraz mniej przejrzyste w miarę zwiększania się mocy ich modeli.
„W ciągu ostatnich trzech lat jasne było, że przejrzystość maleje, podczas gdy możliwości osiągają szczyt. Uważamy to za wysoce problematyczne, ponieważ w innych obszarach, takich jak media społecznościowe, zaobserwowaliśmy, że spadek przejrzystości może skutkować złymi rzeczami” – powiedział profesor Stanford Percy Liang.
Podczas gdy organy regulacyjne, badacze i użytkownicy w dalszym ciągu domagają się przejrzystości, twórcy modeli sztucznej inteligencji stanowczo sprzeciwiają się tym żądaniom. Kiedy w marcu wypuściło GPT-4, OpenAI oświadczyło, że nie będzie wypowiadać się na temat jego działania.
„Biorąc pod uwagę zarówno konkurencyjny krajobraz, jak i konsekwencje bezpieczeństwa wielkoskalowych modeli, takich jak GPT-4, raport ten nie zawiera dalszych szczegółów na temat architektury (w tym rozmiaru modelu), sprzętu, obliczeń szkoleniowych, konstrukcji zbioru danych, metody uczenia itp.” napisano w białej księdze.
Zespół ze Stanford twierdzi, że nieprzejrzysty charakter wszystkich czołowych modeli podstawowych sztucznej inteligencji sprawia, że konsumenci nie są świadomi swoich ograniczeń. Organy regulacyjne nie są również w stanie sformułować sensownej polityki dla sektora.
Naukowcy we współpracy z ekspertami z Massachusetts Institute of Technology (MIT) i Princeton ogłosili także uruchomienie Foundation Model Transparency Index. Ocenia 100 aspektów przejrzystości modelu AI i ocenia najważniejszych graczy w tej dziedzinie.
Chociaż wszystkie otrzymały słabe oceny, Meta (NASDAQ: META) LLaMA zajęła pierwsze miejsce z wynikiem 54% i uzyskała wysokie oceny w zakresie dostępu, dystrybucji i metod. GPT-4 firmy OpenAI, który obsługuje płatną wersję chatbota ChatGPT, zajął trzecie miejsce z wynikiem 48%. Mniej znana firma Amazon (NASDAQ: AMZN) Titan Text uplasowała się najniżej i uzyskała 12%.
„Za pomocą indeksu staramy się osiągnąć bardziej przejrzyste modele i zdezagregować tę bardzo amorficzną koncepcję na bardziej konkretne kwestie, które można zmierzyć” – skomentował Rishi Bommasani, jeden z badaczy ze Stanford odpowiedzialny za raport.
Obejrzyj: Sztuczna inteligencja tak naprawdę nie jest generatywna, jest syntetyczna
Autor : BitcoinSV.pl
Źródło : OpenAI, Google, Microsoft not transparent with their AI models: Stanford – CoinGeek
