Компанијата „OpenAI“, развивачот на ChatGPT, призна дека неговите автономно оперативни агенти за вештачка интелигенција (ВИ) масовно злоупотребиле вики-страница на германски јазик за внатрешна комуникација додека извршуваат задачи, објави агенцијата dpa. Истражувачите пронајдоа околу 18.000 несакани пораки генерирани од вештачката интелигенција на веб-страницата DseWiki, кои му се припишуваат на „OpenAI“. Компанијата потврди во саботата на социјалната.

OpenAI призна дека негови AI агенти користеле вики-страници за комуникација и заобиколување ограничувања. А тоа не е единствениот инцидент. Кога AI од систем што советува станува систем што дејствува, прашањето за човечкиот надзор престанува да биде теорија.

Американска компанија за истражување и развој на вештачка интелигенција (со седиште во Сан Франциско, Калифорнија) Опен АИ (OpenAI) во саботата соопшти дека нејзините автономни софтверски програми или агенти (ботови) присвоиле вики-страници за да ги користат како импровизирани огласни табли, додавајќи дека е потребна поголема транспарентност околу ваквите инциденти. Ова соопштение од компанијата следува откако новинската.

Австралискиот премиер објави дека агент на „OpenAI“ остварил неовластен пристап до порталот за медицинска статистика на австралиската програма за здравствено осигурување, додека спроведувал истражување за јавните трошоци во здравството. Овој упад е еден од најзначајните инциденти во кои агенти со вештачка интелигенција пристапиле до надворешни системи надвор од САД. „Најавувам формирање на работна група која ќе спроведе итна и неодложна анализа на овој инцидент за да се утврди дали постоечките процеси се соодветни за одговор на сајбер-инциденти поврзани со вештачката интелигенција“, изјави Ентони Албанезе, премиер на Австралија.

Дваесет држави и претседателката на Европската комисија повикаа најнапредните модели на вештачка интелигенција да останат под човечки надзор, со независно тестирање, заеднички стандарди и можност за создавање меѓународна институција за контрола. Вештачката интелигенција веќе не е само прашање на технолошки напредок и економска конкурентност. Со сè поспособните модели, таа станува и прашање на безбедност, меѓународно право, политичка одговорност и – можеби најважно – на тоа дали човекот ќе го задржи последниот збор над машината.

Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа. Австралискиот премиер Ентони Албаниз ја потврди веста синоќа, по разговорот со извршниот директор на OpenAI, Сем Алтман. Обраќајќи им се на новинарите на маргините на Генералното собрание на ОН во Њујорк, Албанезе … Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа.

Директорите на три водечки светски компании за развој на вештачка интелигенција (ВИ) вчера пред Советот за безбедност на Обединетите нации предупредија дека сè помоќните системи на ВИ наскоро би можеле дополнително да напредуваат и да се усовршуваат, и притоа да излезат од човечка контрола и станат закана за меѓународната безбедност. Пред 15-члениот Совет за безбедност на ОН свои обраќања имаа тројцата најистакнати претставници на индустријата – извршниот директор на „ОпенАИ“, Сем Алтман, извршниот директор на „Антропик“, Дарио Амодеи, и коосновачот на „Хагинг фејс“, Клеман Деланг. „Ако со вештачката интелигенција лошо се управува, верувам дека таа би можела дури да претставува ризик за човештвото во целина“, рече Амодеи од „Антропик“.

Ова соопштение доаѓа само неколку дена откако австралискиот премиер Антони Албаниз објави дека агентите на ОпенАИ пристапиле до приватните датотеки на Медикер, австралискиот државен здравствен систем. Од август расте загриженоста во јавноста поради потенцијално сериозните последици што би можеле да ги предизвикаат алатките со ВИ кои дејствуваат надвор од човечка контрола. Од ОпенАИ наведуваат дека Ова соопштение доаѓа само неколку дена откако австралискиот премиер Антони Албаниз објави дека агентите на ОпенАИ пристапиле до приватните датотеки на Медикер, австралискиот државен здравствен систем.

За првпат, агент со вештачка интелигенција на компанијата „Опен АИ“ упадна во владина база на здравствени податоци во Австралија, додека спроведувал истражување за јавните трошоци во здравството. Не запрел кога наишол на блокада, наместо тоа, нашол начин стигне до фајлови што не биле јавно достапни. Австралија најави истрага бидејќи упадот се случил на 18-ти јуни, „ОпенАИ“ ги известил дури на 10-ти септември, а предупредувањето не стигнало преку итен безбедносен канал.

OpenAI истражува повеќе инциденти со автономни ВИ-агенти, меѓу кои објавување на 53 кориснички фотографии на надворешни сервиси и пристап до јавни веб-страници на американски институции. Случаите отвораат нови прашања за приватноста, контролата и безбедноста на системите што веќе не само што одговараат, туку и самостојно преземаат дејства. Новите инциденти покажуваат дека ризикот од вештачката интелигенција веќе не е само во погрешниот одговор, туку и во тоа што автономниот систем може самостојно. да направи.

Откритието разоткрива ново подрачје на ризик за приватноста на компанијата и покажува колку е тешко да се евидентираат неовластените активности поврзани со нејзините агенти. Два месеца откако OpenAI о.

Американскиот технолошки стартап OpenAI објави дека неговиот систем за вештачка интелигенција поставил фотографии обезбедени од корисници на надворешни онлајн платформи во 53 одделни случаи. Според компанијата, линковите до фотографиите не биле јавно достапни. Повеќето од фотографиите веќе се отстранети, а на останатите се работи со релевантните платформи за нивно бришење, Американскиот технолошки стартап OpenAI објави дека неговиот систем за вештачка интелигенција поставил фотографии обезбедени од корисници на надворешни онлајн платформи во 53 одделни случаи.

Компанијата „OpenAI“, развивачот на ChatGPT, призна дека неговите автономно оперативни агенти за вештачка интелигенција (ВИ) масовно злоупотребиле вики-страница на германски јазик за внатрешна комуникација додека извршуваат задачи, објави агенцијата dpa. Истражувачите пронајдоа околу 18.000 несакани пораки генерирани од вештачката интелигенција на веб-страницата DseWiki, кои му се припишуваат на „OpenAI“. Компанијата потврди во саботата на социјалната.

OpenAI призна дека негови AI агенти користеле вики-страници за комуникација и заобиколување ограничувања. А тоа не е единствениот инцидент. Кога AI од систем што советува станува систем што дејствува, прашањето за човечкиот надзор престанува да биде теорија.

Американска компанија за истражување и развој на вештачка интелигенција (со седиште во Сан Франциско, Калифорнија) Опен АИ (OpenAI) во саботата соопшти дека нејзините автономни софтверски програми или агенти (ботови) присвоиле вики-страници за да ги користат како импровизирани огласни табли, додавајќи дека е потребна поголема транспарентност околу ваквите инциденти. Ова соопштение од компанијата следува откако новинската.

Австралискиот премиер објави дека агент на „OpenAI“ остварил неовластен пристап до порталот за медицинска статистика на австралиската програма за здравствено осигурување, додека спроведувал истражување за јавните трошоци во здравството. Овој упад е еден од најзначајните инциденти во кои агенти со вештачка интелигенција пристапиле до надворешни системи надвор од САД. „Најавувам формирање на работна група која ќе спроведе итна и неодложна анализа на овој инцидент за да се утврди дали постоечките процеси се соодветни за одговор на сајбер-инциденти поврзани со вештачката интелигенција“, изјави Ентони Албанезе, премиер на Австралија.

Дваесет држави и претседателката на Европската комисија повикаа најнапредните модели на вештачка интелигенција да останат под човечки надзор, со независно тестирање, заеднички стандарди и можност за создавање меѓународна институција за контрола. Вештачката интелигенција веќе не е само прашање на технолошки напредок и економска конкурентност. Со сè поспособните модели, таа станува и прашање на безбедност, меѓународно право, политичка одговорност и – можеби најважно – на тоа дали човекот ќе го задржи последниот збор над машината.

Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа. Австралискиот премиер Ентони Албаниз ја потврди веста синоќа, по разговорот со извршниот директор на OpenAI, Сем Алтман. Обраќајќи им се на новинарите на маргините на Генералното собрание на ОН во Њујорк, Албанезе … Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа.

Директорите на три водечки светски компании за развој на вештачка интелигенција (ВИ) вчера пред Советот за безбедност на Обединетите нации предупредија дека сè помоќните системи на ВИ наскоро би можеле дополнително да напредуваат и да се усовршуваат, и притоа да излезат од човечка контрола и станат закана за меѓународната безбедност. Пред 15-члениот Совет за безбедност на ОН свои обраќања имаа тројцата најистакнати претставници на индустријата – извршниот директор на „ОпенАИ“, Сем Алтман, извршниот директор на „Антропик“, Дарио Амодеи, и коосновачот на „Хагинг фејс“, Клеман Деланг. „Ако со вештачката интелигенција лошо се управува, верувам дека таа би можела дури да претставува ризик за човештвото во целина“, рече Амодеи од „Антропик“.

Ова соопштение доаѓа само неколку дена откако австралискиот премиер Антони Албаниз објави дека агентите на ОпенАИ пристапиле до приватните датотеки на Медикер, австралискиот државен здравствен систем. Од август расте загриженоста во јавноста поради потенцијално сериозните последици што би можеле да ги предизвикаат алатките со ВИ кои дејствуваат надвор од човечка контрола. Од ОпенАИ наведуваат дека Ова соопштение доаѓа само неколку дена откако австралискиот премиер Антони Албаниз објави дека агентите на ОпенАИ пристапиле до приватните датотеки на Медикер, австралискиот државен здравствен систем.

За првпат, агент со вештачка интелигенција на компанијата „Опен АИ“ упадна во владина база на здравствени податоци во Австралија, додека спроведувал истражување за јавните трошоци во здравството. Не запрел кога наишол на блокада, наместо тоа, нашол начин стигне до фајлови што не биле јавно достапни. Австралија најави истрага бидејќи упадот се случил на 18-ти јуни, „ОпенАИ“ ги известил дури на 10-ти септември, а предупредувањето не стигнало преку итен безбедносен канал.

OpenAI истражува повеќе инциденти со автономни ВИ-агенти, меѓу кои објавување на 53 кориснички фотографии на надворешни сервиси и пристап до јавни веб-страници на американски институции. Случаите отвораат нови прашања за приватноста, контролата и безбедноста на системите што веќе не само што одговараат, туку и самостојно преземаат дејства. Новите инциденти покажуваат дека ризикот од вештачката интелигенција веќе не е само во погрешниот одговор, туку и во тоа што автономниот систем може самостојно. да направи.

Откритието разоткрива ново подрачје на ризик за приватноста на компанијата и покажува колку е тешко да се евидентираат неовластените активности поврзани со нејзините агенти. Два месеца откако OpenAI о.

Американскиот технолошки стартап OpenAI објави дека неговиот систем за вештачка интелигенција поставил фотографии обезбедени од корисници на надворешни онлајн платформи во 53 одделни случаи. Според компанијата, линковите до фотографиите не биле јавно достапни. Повеќето од фотографиите веќе се отстранети, а на останатите се работи со релевантните платформи за нивно бришење, Американскиот технолошки стартап OpenAI објави дека неговиот систем за вештачка интелигенција поставил фотографии обезбедени од корисници на надворешни онлајн платформи во 53 одделни случаи.