Quantcast

Медия без
политическа реклама

Директорът на OpenAI е бил уволнен заради опасна разработка

24 Ноем. 2023

Малко преди уволнението на генералния директор на OpenAI Сам Алтман инженерите на компанията са предупредили Съвета на директорите за опасна разработка на изкуствен интелект, която "може да заплашва човечеството", пише Reuters, като се позовава на свои източници.

Проектът носи работното заглавие Q* (произнася се като Q-Star). Според някои инженери в OpenAI той може да стане пробив в търсенето на т.нар. "общ изкуствен интелект" (AGI) - автономна система, която "превъзхожда хората в голяма част от икономически ценните задачи". Моделът притежава огромни изчислителни ресурси и може да реши някои математически задачи на ниво начално училище. Това вдъхва голям оптимизъм на изследователите, тъй като в момента изкуственият интелект може само да пише и превежда, а отговорите му на един и същ въпрос могат съществено да се различават.

Математиката предполага единствено правилен отговор, което изисква от изкуствения интелект способности за разсъждение, наподобяващи човешкия интелект. Тази модел може да се използва за нови научни изследвания, тъй като AGI може да обобщава, да се учи и разбира.

Писмото на инженерите за откриването на Q* е една от причините за уволнението на Алтман, който няколко дни по-късно бе отново назначен на поста след протести на работещите в компанията.

Според Reuters, уставът на Open AI предполага "авариен стоп", който може да спре всякакви разработки, които биха донесли полза за инвеститора, но вреда за човечеството. Точно с тази формулировка е бил уволнен и Алтман.

Ключови думи:

OpenAI, Сам Алтман

АНКЕТА "СЕГА"

Ще се осъществи ли ротацията във властта?