Првиот човек на OpenAI изнесе детали за тоа како би можеле да функционираат безбедносните рамки за вештачка интелигенција и евентуалното забавување на развојот, додека индустријата се обединува околу Првиот човек на OpenAI изнесе детали за тоа како би можеле да функционираат безбедносните рамки за вештачка интелигенција и евентуалното забавување на развојот, додека индустријата се обединува околу.

Во објава на социјалните мрежи, Дарио Амодеи предложи план што вклучува независни оценки на системите за вештачка интелигенција. Извршниот директор на компанијата за вештачка интелигенција „Антропик“ Во објава на социјалните мрежи, Дарио Амодеи предложи план што вклучува независни оценки на системите за вештачка интелигенција. Извршниот директор на компанијата за вештачка интелигенција „Антропик“.

„OpenAI“ нема да излезе на берза оваа година, бидејќи ќе се фокусира на решавање на безбедносни проблеми поврзани со вештачката интелигенција (AI), изјави извршниот директор на таа компанија, Сем Алтман, во интервју за „Fortune“. Алтман рече дека оваа година нема да биде добро време за почетна јавна понуда (IPO) и дека OpenAI нема да излезе „OpenAI“ нема да излезе на берза оваа година, бидејќи ќе се фокусира на решавање на безбедносни проблеми поврзани со вештачката интелигенција (AI), изјави извршниот директор на таа компанија, Сем Алтман, во интервју за „Fortune“. Алтман рече дека оваа година нема да биде добро време за почетна јавна понуда (IPO) и дека OpenAI нема да излезе.

Шефовите на водечките компании за вештачка интелигенција – Дарио Амодеј („Антропик“), Сем Алтман („ОпенЕј-Ај“) и Илон Маск („ИксЕј-Ај“) – отворено поддржаа повици за координирано забавување на развојот на најнапредните модели со вештачка интелигенција (ВИ), поради растечките ризици за опстанокот на човештвото, сајбер-безбедноста и националната безбедност. Главниот извршен директор на „Антропик“ (Anthropic), Дарио Амодеј, во обемна објава на својот блог соопшти дека неговата компанија воведува дополнителни безбедносни мерки и независни проценки, повикувајќи го целиот сектор пошироко да го забави темпото. Неговиот предлог веднаш го поддржаа Сем Алтман од „ОпенЕј-Ај“ (OpenAI), кој се обврза да ги прифати независните оценувачи, како и Илон Маск, кој ја предводи „ИксЕј-Ај“ (xAI) и порача дека Амодеј е во право.

Разговорите се во тек уште од јули, кога Демис Хасабис од Google објави предлог со кој повика на формирање „тело за стандарди“ под водство на САД, изјави портпаролот.

Аnthropic, OpenAI и Google од јули одржуваат состаноци за формирање заедничко тело кое ќе воведе стандарди за ВИ и бараат поддршка од владата, со гаранции дека САД нема да ја изгубат глобалната доминација. Амодеи всушност бара приватни компании да добијат законска дозвола да ја регулираат ВИ и да бидат судии дали ги почитуваат правилата што самите ги поставиле.

Австралискиот премиер објави дека агент на „OpenAI“ остварил неовластен пристап до порталот за медицинска статистика на австралиската програма за здравствено осигурување, додека спроведувал истражување за јавните трошоци во здравството. Овој упад е еден од најзначајните инциденти во кои агенти со вештачка интелигенција пристапиле до надворешни системи надвор од САД. „Најавувам формирање на работна група која ќе спроведе итна и неодложна анализа на овој инцидент за да се утврди дали постоечките процеси се соодветни за одговор на сајбер-инциденти поврзани со вештачката интелигенција“, изјави Ентони Албанезе, премиер на Австралија.

Дваесет држави и претседателката на Европската комисија повикаа најнапредните модели на вештачка интелигенција да останат под човечки надзор, со независно тестирање, заеднички стандарди и можност за создавање меѓународна институција за контрола. Вештачката интелигенција веќе не е само прашање на технолошки напредок и економска конкурентност. Со сè поспособните модели, таа станува и прашање на безбедност, меѓународно право, политичка одговорност и – можеби најважно – на тоа дали човекот ќе го задржи последниот збор над машината.

Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа. Австралискиот премиер Ентони Албаниз ја потврди веста синоќа, по разговорот со извршниот директор на OpenAI, Сем Алтман. Обраќајќи им се на новинарите на маргините на Генералното собрание на ОН во Њујорк, Албанезе … Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа.

Директорите на три водечки светски компании за развој на вештачка интелигенција (ВИ) вчера пред Советот за безбедност на Обединетите нации предупредија дека сè помоќните системи на ВИ наскоро би можеле дополнително да напредуваат и да се усовршуваат, и притоа да излезат од човечка контрола и станат закана за меѓународната безбедност. Пред 15-члениот Совет за безбедност на ОН свои обраќања имаа тројцата најистакнати претставници на индустријата – извршниот директор на „ОпенАИ“, Сем Алтман, извршниот директор на „Антропик“, Дарио Амодеи, и коосновачот на „Хагинг фејс“, Клеман Деланг. „Ако со вештачката интелигенција лошо се управува, верувам дека таа би можела дури да претставува ризик за човештвото во целина“, рече Амодеи од „Антропик“.

OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при … OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при собирањето и споделувањето информации.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

„OpenAI“ привремено ја запре обуката на своите најнови модели на вештачка интелигенција по инцидентите во текот на летото, во кои агентите неочекувано постапувале на веб-страниците на американските федерални институции. Компанијата соопшти дека ќе продолжи со развојот „дури кога ќе бидеме сигурни дека имаме дополнителни заштитни мерки“, со напомена дека веројатно повторно ќе мора да прави паузи како што ќе се развива вештачката интелигенција и ќе се појавуваат нови проблеми. Одлуката следуваше неколку часа откако „OpenAI“ објави дека разгледува повеќе случаи од летниот период.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

„Nvidia“ претстави нова софтверска платформа која им овозможува на програмерите на системи со вештачка интелигенција да поставуваат заштитни механизми за „AI“ агентите и да спречат тие да излезат надвор од дефинираната средина во која работат, пренесува „CNBC“. Објавувањето на „Nvidia Open Agent Safety Platform“ во понеделникот следува откако компании како „OpenAI“, „Anthropic“, „Meta“ и „Google“ „Nvidia“ претстави нова софтверска платформа која им овозможува на програмерите на системи со вештачка интелигенција да поставуваат заштитни механизми за „AI“ агентите и да спречат тие да излезат надвор од дефинираната средина во која работат, пренесува „CNBC“. Објавувањето на „Nvidia Open Agent Safety Platform“ во понеделникот следува откако компании како „OpenAI“, „Anthropic“, „Meta“ и „Google“ открија неодамнешни инциденти во кои нивни AI агенти успеале да ги напуштат изолираните средини во кои работеле, при што се обидувале да хакираат други компании и да добијат пристап до нивните компјутерски системи.

Nvidia тврди дека нејзиниот нов софтвер можел да го спречи инцидентот на OpenAI со HuggingFace.

Првиот човек на OpenAI изнесе детали за тоа како би можеле да функционираат безбедносните рамки за вештачка интелигенција и евентуалното забавување на развојот, додека индустријата се обединува околу Првиот човек на OpenAI изнесе детали за тоа како би можеле да функционираат безбедносните рамки за вештачка интелигенција и евентуалното забавување на развојот, додека индустријата се обединува околу.

Во објава на социјалните мрежи, Дарио Амодеи предложи план што вклучува независни оценки на системите за вештачка интелигенција. Извршниот директор на компанијата за вештачка интелигенција „Антропик“ Во објава на социјалните мрежи, Дарио Амодеи предложи план што вклучува независни оценки на системите за вештачка интелигенција. Извршниот директор на компанијата за вештачка интелигенција „Антропик“.

„OpenAI“ нема да излезе на берза оваа година, бидејќи ќе се фокусира на решавање на безбедносни проблеми поврзани со вештачката интелигенција (AI), изјави извршниот директор на таа компанија, Сем Алтман, во интервју за „Fortune“. Алтман рече дека оваа година нема да биде добро време за почетна јавна понуда (IPO) и дека OpenAI нема да излезе „OpenAI“ нема да излезе на берза оваа година, бидејќи ќе се фокусира на решавање на безбедносни проблеми поврзани со вештачката интелигенција (AI), изјави извршниот директор на таа компанија, Сем Алтман, во интервју за „Fortune“. Алтман рече дека оваа година нема да биде добро време за почетна јавна понуда (IPO) и дека OpenAI нема да излезе.

Шефовите на водечките компании за вештачка интелигенција – Дарио Амодеј („Антропик“), Сем Алтман („ОпенЕј-Ај“) и Илон Маск („ИксЕј-Ај“) – отворено поддржаа повици за координирано забавување на развојот на најнапредните модели со вештачка интелигенција (ВИ), поради растечките ризици за опстанокот на човештвото, сајбер-безбедноста и националната безбедност. Главниот извршен директор на „Антропик“ (Anthropic), Дарио Амодеј, во обемна објава на својот блог соопшти дека неговата компанија воведува дополнителни безбедносни мерки и независни проценки, повикувајќи го целиот сектор пошироко да го забави темпото. Неговиот предлог веднаш го поддржаа Сем Алтман од „ОпенЕј-Ај“ (OpenAI), кој се обврза да ги прифати независните оценувачи, како и Илон Маск, кој ја предводи „ИксЕј-Ај“ (xAI) и порача дека Амодеј е во право.

Разговорите се во тек уште од јули, кога Демис Хасабис од Google објави предлог со кој повика на формирање „тело за стандарди“ под водство на САД, изјави портпаролот.

Аnthropic, OpenAI и Google од јули одржуваат состаноци за формирање заедничко тело кое ќе воведе стандарди за ВИ и бараат поддршка од владата, со гаранции дека САД нема да ја изгубат глобалната доминација. Амодеи всушност бара приватни компании да добијат законска дозвола да ја регулираат ВИ и да бидат судии дали ги почитуваат правилата што самите ги поставиле.

Австралискиот премиер објави дека агент на „OpenAI“ остварил неовластен пристап до порталот за медицинска статистика на австралиската програма за здравствено осигурување, додека спроведувал истражување за јавните трошоци во здравството. Овој упад е еден од најзначајните инциденти во кои агенти со вештачка интелигенција пристапиле до надворешни системи надвор од САД. „Најавувам формирање на работна група која ќе спроведе итна и неодложна анализа на овој инцидент за да се утврди дали постоечките процеси се соодветни за одговор на сајбер-инциденти поврзани со вештачката интелигенција“, изјави Ентони Албанезе, премиер на Австралија.

Дваесет држави и претседателката на Европската комисија повикаа најнапредните модели на вештачка интелигенција да останат под човечки надзор, со независно тестирање, заеднички стандарди и можност за создавање меѓународна институција за контрола. Вештачката интелигенција веќе не е само прашање на технолошки напредок и економска конкурентност. Со сè поспособните модели, таа станува и прашање на безбедност, меѓународно право, политичка одговорност и – можеби најважно – на тоа дали човекот ќе го задржи последниот збор над машината.

Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа. Австралискиот премиер Ентони Албаниз ја потврди веста синоќа, по разговорот со извршниот директор на OpenAI, Сем Алтман. Обраќајќи им се на новинарите на маргините на Генералното собрание на ОН во Њујорк, Албанезе … Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа.

Директорите на три водечки светски компании за развој на вештачка интелигенција (ВИ) вчера пред Советот за безбедност на Обединетите нации предупредија дека сè помоќните системи на ВИ наскоро би можеле дополнително да напредуваат и да се усовршуваат, и притоа да излезат од човечка контрола и станат закана за меѓународната безбедност. Пред 15-члениот Совет за безбедност на ОН свои обраќања имаа тројцата најистакнати претставници на индустријата – извршниот директор на „ОпенАИ“, Сем Алтман, извршниот директор на „Антропик“, Дарио Амодеи, и коосновачот на „Хагинг фејс“, Клеман Деланг. „Ако со вештачката интелигенција лошо се управува, верувам дека таа би можела дури да претставува ризик за човештвото во целина“, рече Амодеи од „Антропик“.

OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при … OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при собирањето и споделувањето информации.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

„OpenAI“ привремено ја запре обуката на своите најнови модели на вештачка интелигенција по инцидентите во текот на летото, во кои агентите неочекувано постапувале на веб-страниците на американските федерални институции. Компанијата соопшти дека ќе продолжи со развојот „дури кога ќе бидеме сигурни дека имаме дополнителни заштитни мерки“, со напомена дека веројатно повторно ќе мора да прави паузи како што ќе се развива вештачката интелигенција и ќе се појавуваат нови проблеми. Одлуката следуваше неколку часа откако „OpenAI“ објави дека разгледува повеќе случаи од летниот период.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

„Nvidia“ претстави нова софтверска платформа која им овозможува на програмерите на системи со вештачка интелигенција да поставуваат заштитни механизми за „AI“ агентите и да спречат тие да излезат надвор од дефинираната средина во која работат, пренесува „CNBC“. Објавувањето на „Nvidia Open Agent Safety Platform“ во понеделникот следува откако компании како „OpenAI“, „Anthropic“, „Meta“ и „Google“ „Nvidia“ претстави нова софтверска платформа која им овозможува на програмерите на системи со вештачка интелигенција да поставуваат заштитни механизми за „AI“ агентите и да спречат тие да излезат надвор од дефинираната средина во која работат, пренесува „CNBC“. Објавувањето на „Nvidia Open Agent Safety Platform“ во понеделникот следува откако компании како „OpenAI“, „Anthropic“, „Meta“ и „Google“ открија неодамнешни инциденти во кои нивни AI агенти успеале да ги напуштат изолираните средини во кои работеле, при што се обидувале да хакираат други компании и да добијат пристап до нивните компјутерски системи.

Nvidia тврди дека нејзиниот нов софтвер можел да го спречи инцидентот на OpenAI со HuggingFace.