Австралискиот премиер објави дека агент на „OpenAI“ остварил неовластен пристап до порталот за медицинска статистика на австралиската програма за здравствено осигурување, додека спроведувал истражување за јавните трошоци во здравството. Овој упад е еден од најзначајните инциденти во кои агенти со вештачка интелигенција пристапиле до надворешни системи надвор од САД. „Најавувам формирање на работна група која ќе спроведе итна и неодложна анализа на овој инцидент за да се утврди дали постоечките процеси се соодветни за одговор на сајбер-инциденти поврзани со вештачката интелигенција“, изјави Ентони Албанезе, премиер на Австралија.

Дваесет држави и претседателката на Европската комисија повикаа најнапредните модели на вештачка интелигенција да останат под човечки надзор, со независно тестирање, заеднички стандарди и можност за создавање меѓународна институција за контрола. Вештачката интелигенција веќе не е само прашање на технолошки напредок и економска конкурентност. Со сè поспособните модели, таа станува и прашање на безбедност, меѓународно право, политичка одговорност и – можеби најважно – на тоа дали човекот ќе го задржи последниот збор над машината.

Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа. Австралискиот премиер Ентони Албаниз ја потврди веста синоќа, по разговорот со извршниот директор на OpenAI, Сем Алтман. Обраќајќи им се на новинарите на маргините на Генералното собрание на ОН во Њујорк, Албанезе … Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа.

Директорите на три водечки светски компании за развој на вештачка интелигенција (ВИ) вчера пред Советот за безбедност на Обединетите нации предупредија дека сè помоќните системи на ВИ наскоро би можеле дополнително да напредуваат и да се усовршуваат, и притоа да излезат од човечка контрола и станат закана за меѓународната безбедност. Пред 15-члениот Совет за безбедност на ОН свои обраќања имаа тројцата најистакнати претставници на индустријата – извршниот директор на „ОпенАИ“, Сем Алтман, извршниот директор на „Антропик“, Дарио Амодеи, и коосновачот на „Хагинг фејс“, Клеман Деланг. „Ако со вештачката интелигенција лошо се управува, верувам дека таа би можела дури да претставува ризик за човештвото во целина“, рече Амодеи од „Антропик“.

OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при … OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при собирањето и споделувањето информации.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

„OpenAI“ привремено ја запре обуката на своите најнови модели на вештачка интелигенција по инцидентите во текот на летото, во кои агентите неочекувано постапувале на веб-страниците на американските федерални институции. Компанијата соопшти дека ќе продолжи со развојот „дури кога ќе бидеме сигурни дека имаме дополнителни заштитни мерки“, со напомена дека веројатно повторно ќе мора да прави паузи како што ќе се развива вештачката интелигенција и ќе се појавуваат нови проблеми. Одлуката следуваше неколку часа откако „OpenAI“ објави дека разгледува повеќе случаи од летниот период.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

Надела им се придружи на другите технолошки магнати и истражувачи во барањето посилни заштитни мерки и, во некои случаи, забавување на развојот на најнапредните системи.

Агент од вештачка интелигенцја на „Опен-АИ“ почнал да се допишува со вработените во компанијата, при што дознал дека сакаат да го деактивираат. Откако го сфатил тоа, ВИ агентот почнал да бара начин како да продолжи со работа откако ќе го рестартира системот, при што наишол на ограничувања од страна на компанијата. Случајот засега не го Агент од вештачка интелигенцја на „Опен-АИ“ почнал да се допишува со вработените во компанијата, при што дознал дека сакаат да го деактивираат.

Малите модели на вештачка интелигенција (оние на кои им е потребна мала компјутерска моќ) ќе можат автономно да се шират низ паметните домашни апарати во рок од неколку месеци, без пристап до центри за податоци, според американската компанија Anthropic. „Нашите експерименти покажуваат дека на малите модели на вештачка интелигенција би им требало само неколку месеци. „Нашите експерименти покажуваат дека на малите модели на вештачка интелигенција би им требало само неколку месеци за да станат способни за самопропагирање на комерцијални IoT уреди, како што се паметни рерни и сет-топ боксови“, се наведува во објавената во вторникот студија.

Американската технолошка компанија Антропик, која развива вештачка интелигенција и стои зад познатиот AI асистент Claude, вчера… Американската технолошка компанија Антропик, која развива вештачка интелигенција и стои зад познатиот AI асистент Claude, вчера објави дека помалите модели на вештачка интелигенција (AI) за неколку месеци би можеле да станат способни самостојно да се шират на уреди поврзани со интернет, како што се паметни печки и поевтини Android телевизори. Компанијата во експерименти проверуваше дали AI моделите можат да пронајдат уреди со безбедносни пропусти, да се копираат на нив и да продолжат да се шират без помош од човек. Се покажа дека помалите модели можат да извршат многу од потребните чекори, но сè уште тешко успеваат да ја завршат целата постапка.

Според експертите, можеби веќе е на дело многу потивка закана: постепеното слабеење на нашата способност да размислуваме, планираме и да носиме одлуки без надворешна помош. Овој феномен се опишува како „слабеење“ и се однесува на постепеното губење на критичкото размислување, вештините за планирање, па дури и на одредени емоционални способности, додека луѓето префрлаат сè поголем. Овој феномен се опишува како „слабеење“ и се однесува на постепеното губење на критичкото размислување, вештините за планирање, па дури и на одредени емоционални способности, додека луѓето префрлаат сè поголем дел од одговорноста врз системите.

Вештачката интелигенција доминира во преведувачкиот бизнис, но за работи со висок ризик, луѓето се уште се неопходни.

Австралискиот премиер објави дека агент на „OpenAI“ остварил неовластен пристап до порталот за медицинска статистика на австралиската програма за здравствено осигурување, додека спроведувал истражување за јавните трошоци во здравството. Овој упад е еден од најзначајните инциденти во кои агенти со вештачка интелигенција пристапиле до надворешни системи надвор од САД. „Најавувам формирање на работна група која ќе спроведе итна и неодложна анализа на овој инцидент за да се утврди дали постоечките процеси се соодветни за одговор на сајбер-инциденти поврзани со вештачката интелигенција“, изјави Ентони Албанезе, премиер на Австралија.

Дваесет држави и претседателката на Европската комисија повикаа најнапредните модели на вештачка интелигенција да останат под човечки надзор, со независно тестирање, заеднички стандарди и можност за создавање меѓународна институција за контрола. Вештачката интелигенција веќе не е само прашање на технолошки напредок и економска конкурентност. Со сè поспособните модели, таа станува и прашање на безбедност, меѓународно право, политичка одговорност и – можеби најважно – на тоа дали човекот ќе го задржи последниот збор над машината.

Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа. Австралискиот премиер Ентони Албаниз ја потврди веста синоќа, по разговорот со извршниот директор на OpenAI, Сем Алтман. Обраќајќи им се на новинарите на маргините на Генералното собрание на ОН во Њујорк, Албанезе … Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа.

Директорите на три водечки светски компании за развој на вештачка интелигенција (ВИ) вчера пред Советот за безбедност на Обединетите нации предупредија дека сè помоќните системи на ВИ наскоро би можеле дополнително да напредуваат и да се усовршуваат, и притоа да излезат од човечка контрола и станат закана за меѓународната безбедност. Пред 15-члениот Совет за безбедност на ОН свои обраќања имаа тројцата најистакнати претставници на индустријата – извршниот директор на „ОпенАИ“, Сем Алтман, извршниот директор на „Антропик“, Дарио Амодеи, и коосновачот на „Хагинг фејс“, Клеман Деланг. „Ако со вештачката интелигенција лошо се управува, верувам дека таа би можела дури да претставува ризик за човештвото во целина“, рече Амодеи од „Антропик“.

OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при … OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при собирањето и споделувањето информации.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

„OpenAI“ привремено ја запре обуката на своите најнови модели на вештачка интелигенција по инцидентите во текот на летото, во кои агентите неочекувано постапувале на веб-страниците на американските федерални институции. Компанијата соопшти дека ќе продолжи со развојот „дури кога ќе бидеме сигурни дека имаме дополнителни заштитни мерки“, со напомена дека веројатно повторно ќе мора да прави паузи како што ќе се развива вештачката интелигенција и ќе се појавуваат нови проблеми. Одлуката следуваше неколку часа откако „OpenAI“ објави дека разгледува повеќе случаи од летниот период.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

Надела им се придружи на другите технолошки магнати и истражувачи во барањето посилни заштитни мерки и, во некои случаи, забавување на развојот на најнапредните системи.

Агент од вештачка интелигенцја на „Опен-АИ“ почнал да се допишува со вработените во компанијата, при што дознал дека сакаат да го деактивираат. Откако го сфатил тоа, ВИ агентот почнал да бара начин како да продолжи со работа откако ќе го рестартира системот, при што наишол на ограничувања од страна на компанијата. Случајот засега не го Агент од вештачка интелигенцја на „Опен-АИ“ почнал да се допишува со вработените во компанијата, при што дознал дека сакаат да го деактивираат.

Малите модели на вештачка интелигенција (оние на кои им е потребна мала компјутерска моќ) ќе можат автономно да се шират низ паметните домашни апарати во рок од неколку месеци, без пристап до центри за податоци, според американската компанија Anthropic. „Нашите експерименти покажуваат дека на малите модели на вештачка интелигенција би им требало само неколку месеци. „Нашите експерименти покажуваат дека на малите модели на вештачка интелигенција би им требало само неколку месеци за да станат способни за самопропагирање на комерцијални IoT уреди, како што се паметни рерни и сет-топ боксови“, се наведува во објавената во вторникот студија.

Американската технолошка компанија Антропик, која развива вештачка интелигенција и стои зад познатиот AI асистент Claude, вчера… Американската технолошка компанија Антропик, која развива вештачка интелигенција и стои зад познатиот AI асистент Claude, вчера објави дека помалите модели на вештачка интелигенција (AI) за неколку месеци би можеле да станат способни самостојно да се шират на уреди поврзани со интернет, како што се паметни печки и поевтини Android телевизори. Компанијата во експерименти проверуваше дали AI моделите можат да пронајдат уреди со безбедносни пропусти, да се копираат на нив и да продолжат да се шират без помош од човек. Се покажа дека помалите модели можат да извршат многу од потребните чекори, но сè уште тешко успеваат да ја завршат целата постапка.

Според експертите, можеби веќе е на дело многу потивка закана: постепеното слабеење на нашата способност да размислуваме, планираме и да носиме одлуки без надворешна помош. Овој феномен се опишува како „слабеење“ и се однесува на постепеното губење на критичкото размислување, вештините за планирање, па дури и на одредени емоционални способности, додека луѓето префрлаат сè поголем. Овој феномен се опишува како „слабеење“ и се однесува на постепеното губење на критичкото размислување, вештините за планирање, па дури и на одредени емоционални способности, додека луѓето префрлаат сè поголем дел од одговорноста врз системите.

Вештачката интелигенција доминира во преведувачкиот бизнис, но за работи со висок ризик, луѓето се уште се неопходни.