Connect with us

технологии / компании

Клучните луѓе ја напуштаат OpenAI загрижени околу развојот на вештачката интелигенција

Турбуленции во компанијата што го развива ChatGPT

објавено

на

Прво, ко-основачот и главен научник Илја Сутскевер, кој го предводеше тимот за супер усогласување (super alignment team) ја напушти Open AI, а по него, ко-водачот на истиот тим, Јан Леике, ја напушти компанијата. Но, тоа не беше крајот бидејќи уште еден член на тимот го напушти Open AI. Станува збор за Гретчен Кругер која рече дека ја дели загриженоста на споменатите колеги. Таа додаде дека треба да се направи повеќе за да се подобрат „процесите на донесување одлуки; одговорност; транспарентност; документација; спроведување на политиката; грижата со која ја користиме нашата сопствена технологија; и ублажување на влијанијата врз нееднаквоста, правата и животната средина.’

Пред десетина  дена Open AI објави возбудливи вести за својот нов производ. Тие триумфално објавија дека нивниот ChatGPT сега може да зборува како човек и има весел и донекаде допадлив женски глас. Поточно, звучеше како Скарлет Јохансон, поради што актерката веднаш се закани дека ќе ги тужи, па побрзаа да го отстранат. Но, иако новиот ChatGPT зборува, се чини дека тоа не е случај со вработените кои во последно време без збор ја напуштаат Open AI на Сем Алтман.

Прво, ко-основачот и главен научник Илја Сутскевер, кој го предводеше тимот за супер усогласување (super alignment team) ја напушти Open AI, а по него, ко-водачот на истиот тим, Јан Леике, ја напушти компанијата.

Но, тоа не беше крајот бидејќи уште еден член на тимот го напушти Open AI. Станува збор за Гретчен Кругер која рече дека ја дели загриженоста на споменатите колеги. Таа додаде дека треба да се направи повеќе за да се подобрат „процесите на донесување одлуки; одговорност; транспарентност; документација; спроведување на политиката; грижата со која ја користиме нашата сопствена технологија; и ублажување на влијанијата врз нееднаквоста, правата и животната средина.’

Молк

Сем Алтман, ко-основач и извршен директор на OpenAI, којшто лани за кратко беше отстранет од позицијата по бунтот на топ менаџментот, па потоа вратен,  деновиве призна во еден твит  дека документите за отпремнина на компанијата навистина вклучуваат одредба за „потенцијално поништување на капиталот“ за вработените кои заминуваат, но рече дека компанијата е во процес на промена на таа клаузула во договорот.

Оставките, наводно, не биле целосно изненадување. Сутскевер беше вклучен во бунт на топ менаџментот што доведе до привремено разрешување на Алтман минатата година, пред извршниот директор брзо да биде вратен на функцијата. Сутскевер јавно зажали за своите постапки и го поддржа враќањето на Алтман, но оттогаш главно отсуствуваше од компанијата, иако другите членови на тимовите на OpenAI за политика, усогласување и сигурност си заминаа.

Но, она што навистина ги подгреа шпекулациите е молкот на поранешните вработени. Сутскевер објави прилично типична порака за оставка, велејќи дека е „уверен дека OpenAI ќе изгради генерална вештачка интелигенција (AGI) која е и безбедна и корисна, и дека е возбуден за она што следува“.

Но, Леике не остави таква порака. Неговата порака за оставка беше едноставно „дадов оставка“. По неколкудневни жестоки шпекулации, тој ја прошири темата, објаснувајќи дека е загрижен што OpenAI се оддалечила од културата фокусирана на безбедноста.

Веднаш се појавија прашања: Дали биле избркани? Дали е ова задоцнета последица на краткото отпуштање на Алтман минатата есен? Дали тие поднесуваат оставки во знак на протест против некој таен и опасен нов проект на OpenAI? Шпекулациите останаа само шпекулаци бидејќи никој што некогаш работел во OpenAI не проговори.

Строги договори за тајност

Се виде  дека има многу јасна причина за ова. Извор внатре од компанијата рече дека договорите за работа се толку рестриктивни што содржат клаузули за доверливост и неомаловажување на коишто подлежат сите поранешни вработени во OpenAI. Доживотно им е забрането да го критикуваат својот поранешен работодавец, па дури и да признаат дека постои ваков договор е негово кршење.

Ако работникот што заминува одбие да го потпише документот или го прекрши, може да го изгуби целиот капитал што го заработил за време на неговиот престој во компанијата, а кој веројатно вреди милиони долари. Еден поранешен вработен, Даниел Кокотајло, кој објави дека го напуштил OpenAI „поради губење на довербата дека ќе се однесуваат одговорно околу развојот на генералната вештачка интелигенција “, јавно потврди дека морал да предаде голема сума пари за да си замине од фирмата без потпишување документ.

Иако договорите за тајност (анг. non-disclosure agreements) не се невообичаени во високо конкурентната Силициумска долина, загрозувањето на веќе заработениот капитал на вработениот поради отфрлање или прекршување на овие договори не е баш пракса. За вработените во стартапи како OpenAI, капиталот е витален облик на компензација, кој може да ја надмине нивната плата неколкукратно. Заканите дека може да ги загубат овие пари кои што менуваат животи се многу ефикасен начин да се замолчат поранешните вработени.

Алтман на крајот призна во свој твит дека документите за отпремнина на компанијата навистина вклучуваат одредба за „потенцијално поништување на капиталот“ за вработените кои заминуваат, но рече дека компанијата е во процес на промена на таа клаузула во договорот.

OpenAI е креатор на ChatGPT којшто не престанува да ја бранува јавноста уште откако за првпат беше претставен во ноември 2022 година, а со новата аудио технологија ќе им овозможи на корисниците да разговараат со ChatGPT што ќе им одговори во реално време без одлагање, како и да го прекине ChatGPT додека зборува. OpenAI  деновиве го претстави новиот модел на вештачка интелигенција наречен GPT-4o, способен за реални гласовни разговори и интеракција со текст и слика, што е нивни најнов потег да останат во врвот на полето на вештачката интелигенција.

Недостига транспарентност

Сето ова е многу иронично за компанија која првично се декларираше како OpenAI, компанија посветена на градење моќни системи на транспарентен и одговорен начин.

OpenAI одамна ја напушти идејата за користење на своите модели со отворен код, наведувајќи како причина дека се загрижени за безбедноста. Но, сега ги отпушти најстарите и најценетите членови на својот тим задолжен за безбедноста, што треба да предизвика скептицизам за тоа дали безбедноста е навистина причината поради која OpenAI стана толку затворен.

Долго време, OpenAI зазема необична позиција во технолошките и политичките кругови. Нивните изданија, од DALL-E до ChatGPT, се прилично добри, но сами по себе тешко дека би го креирале  речиси фанатичниот  жар со кој често се дискутира за компанијата во јавноста.

Она што го издвојува OpenAI е амбицијата на неговата мисија: „да се осигура дека општата вештачка интелигенција – системи со вештачка интелигенција кои се генерално попаметни од луѓето – ќе му користи на  целото човештво). Многу вработени веруваат дека таа цел е на дофат и дека за веројатно една деценија или дури и помалку, и со милијарди долари финансиска поддршка, компанијата ќе успее да развие системи на вештачка интелигенција што повеќето од човековиот труд ќе го направат практично непотребен.    Што е, како што одамна кажа и самата компанија, исто толку ризично колку и возбудливо.

„Суперинтелигенцијата ќе биде највлијателната технологија што човештвото некогаш ја измислило и би можела да ни помогне да решиме многу од најважните проблеми во светот“,се наведува на веб страницата на компанијата во делот каде што привлекуваат нови вработени.

Прво, ко-основачот и главен научник Илја Сутскевер (на фотографијата), кој го предводеше тимот за супер усогласување (super alignment team) ја напушти Open AI, а по него, ко-водачот на истиот тим, Јан Леике, ја напушти компанијата. Сутскевер беше вклучен во бунт на топ менаџментот што доведе до привремено разрешување на Алтман минатата година, пред извршниот директор брзо да биде вратен на функцијата. Сутскевер јавно зажали за своите постапки и го поддржа враќањето на Алтман, но оттогаш главно отсуствуваше од компанијата.

 „Но, огромната моќ на суперинтелигенцијата може да биде и многу опасна и може да доведе до одземање на правата на човештвото или дури и до исчезнување на луѓето. Иако суперинтелигенцијата сега изгледа далечна, веруваме дека би можела да пристигне следнава деценија“,  пишуваат тие.

Се разбира, ако вештачката суперинтелигенција во нашите животи е можна (а експертите се поделени околу тоа), тоа би имало огромни импликации за човештвото. OpenAI историски се позиционираше како одговорен актер кој се обидува да ги надмине обичните комерцијални стимулации и да ја донесе општата вештачка интелигенција во корист на сите. И тие рекоа дека се подготвени да го сторат тоа дури и ако тоа бара забавување на развојот, пропуштање на можности за профит или дозволување надзор однадвор.

Уникатната корпоративна структура на OpenAI – а тоа е компанија со ограничена добивка, на крајот контролирана од непрофитна организација – требаше да ја зголеми одговорноста. Но, нешто тргна наопаку, а тоа најдобро се покажа со заминувањето на двајцата технолози со долга историја на посветеност кон безбедноста и искрена подготвеност да побараат од OpenAI да го смени курсот доколку е потребно. Веројатно тоа и го направиле Сутскевер и Лејке, но им се удрило од глава, па ја напуштиле компанијата.

Нивното заминување не најавува промена во мисијата на OpenAI да изгради општа вештачка интелигенција – тоа останува целта. Но, тоа речиси сигурно најавува промена во интересот на OpenAI за безбедноста.

банки2 дена ago

Со голем настан Македонската шаховска федерација ќе одбележи еден век постоење на Светската шаховска федерација ФИДЕ

македонија5 дена ago

Комерцијална банка со поддршка за македонскиот фудбал и во наредните три години

банки5 дена ago

Прокредит банка со нова модерна филијала во Гостивар

македонија5 дена ago

Донаторскиот кружок на КОНЕКТ по 5-ти пат покажа филантропија на дело: Собрани еден милион денари здружени донации за влијателни иницијативи

банки6 дена ago

ПроКредит е единствена банка во Македонија оценувана од Fitch Ratings

банки7 дена ago

Нова зелена бизнис кредитна линија на ПроКредит Банка и ЕБОР со поврат на средства до 10% за инвестиции во одржливи решенија

македонија1 недела ago

Приближувајќи се кон првата декада со бројни успеси – 8 години ги зајакнуваме носечките столбови на уникатното хотелско угостителство во Скопје Мериот Хотел

менаџмент / маркетинг2 недели ago

Како да се водат состаноци: не мора да се долги, мачни и здодевни, може и поинаку

регион2 недели ago

Во Хрватска платите растат двојно побрзо одошто просекот на ЕУ: работодавците бараат покачувањата да се врзат со продуктивноста

свет2 недели ago

Како турнејата на Тејлор Свифт може да ја поправи економската слика на Европската унија

македонија1 недела ago

Приближувајќи се кон првата декада со бројни успеси – 8 години ги зајакнуваме носечките столбови на уникатното хотелско угостителство во Скопје Мериот Хотел

банки7 дена ago

Нова зелена бизнис кредитна линија на ПроКредит Банка и ЕБОР со поврат на средства до 10% за инвестиции во одржливи решенија

македонија5 дена ago

Донаторскиот кружок на КОНЕКТ по 5-ти пат покажа филантропија на дело: Собрани еден милион денари здружени донации за влијателни иницијативи

банки6 дена ago

ПроКредит е единствена банка во Македонија оценувана од Fitch Ratings

банки5 дена ago

Прокредит банка со нова модерна филијала во Гостивар

банки2 дена ago

Со голем настан Македонската шаховска федерација ќе одбележи еден век постоење на Светската шаховска федерација ФИДЕ

македонија5 дена ago

Комерцијална банка со поддршка за македонскиот фудбал и во наредните три години