Компанијата „OpenAI“, развивачот на ChatGPT, призна дека неговите автономно оперативни агенти за вештачка интелигенција (ВИ) масовно злоупотребиле вики-страница на германски јазик за внатрешна комуникација додека извршуваат задачи, објави агенцијата dpa. Истражувачите пронајдоа околу 18.000 несакани пораки генерирани од вештачката интелигенција на веб-страницата DseWiki, кои му се припишуваат на „OpenAI“. Компанијата потврди во саботата на социјалната.

OpenAI призна дека негови AI агенти користеле вики-страници за комуникација и заобиколување ограничувања. А тоа не е единствениот инцидент. Кога AI од систем што советува станува систем што дејствува, прашањето за човечкиот надзор престанува да биде теорија.

Американска компанија за истражување и развој на вештачка интелигенција (со седиште во Сан Франциско, Калифорнија) Опен АИ (OpenAI) во саботата соопшти дека нејзините автономни софтверски програми или агенти (ботови) присвоиле вики-страници за да ги користат како импровизирани огласни табли, додавајќи дека е потребна поголема транспарентност околу ваквите инциденти. Ова соопштение од компанијата следува откако новинската.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила – како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест нови случаи на несоодветно однесување на моделите и претстави рамка за пријавување на вакви случаи во иднина, во момент кога дебатата за безбедноста на вештачката интелигенција се з.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила - како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем.

Anthropic и OpenAI се под силен надзор откако истражувачите предупредија дека вештачката интелигенција може да предизвика катастрофална штета за човештвото.

Коалиција од над 100 експерти за вештачка интелигенција бараат независност и транспарентност од Anthropic, OpenAI и други лаборатории за фундаментални модели при спроведувањето на евалуациите.

Австралискиот премиер објави дека агент на „OpenAI“ остварил неовластен пристап до порталот за медицинска статистика на австралиската програма за здравствено осигурување, додека спроведувал истражување за јавните трошоци во здравството. Овој упад е еден од најзначајните инциденти во кои агенти со вештачка интелигенција пристапиле до надворешни системи надвор од САД. „Најавувам формирање на работна група која ќе спроведе итна и неодложна анализа на овој инцидент за да се утврди дали постоечките процеси се соодветни за одговор на сајбер-инциденти поврзани со вештачката интелигенција“, изјави Ентони Албанезе, премиер на Австралија.

Дваесет држави и претседателката на Европската комисија повикаа најнапредните модели на вештачка интелигенција да останат под човечки надзор, со независно тестирање, заеднички стандарди и можност за создавање меѓународна институција за контрола. Вештачката интелигенција веќе не е само прашање на технолошки напредок и економска конкурентност. Со сè поспособните модели, таа станува и прашање на безбедност, меѓународно право, политичка одговорност и – можеби најважно – на тоа дали човекот ќе го задржи последниот збор над машината.

Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа. Австралискиот премиер Ентони Албаниз ја потврди веста синоќа, по разговорот со извршниот директор на OpenAI, Сем Алтман. Обраќајќи им се на новинарите на маргините на Генералното собрание на ОН во Њујорк, Албанезе … Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа.

Директорите на три водечки светски компании за развој на вештачка интелигенција (ВИ) вчера пред Советот за безбедност на Обединетите нации предупредија дека сè помоќните системи на ВИ наскоро би можеле дополнително да напредуваат и да се усовршуваат, и притоа да излезат од човечка контрола и станат закана за меѓународната безбедност. Пред 15-члениот Совет за безбедност на ОН свои обраќања имаа тројцата најистакнати претставници на индустријата – извршниот директор на „ОпенАИ“, Сем Алтман, извршниот директор на „Антропик“, Дарио Амодеи, и коосновачот на „Хагинг фејс“, Клеман Деланг. „Ако со вештачката интелигенција лошо се управува, верувам дека таа би можела дури да претставува ризик за човештвото во целина“, рече Амодеи од „Антропик“.

Компанијата „OpenAI“, развивачот на ChatGPT, призна дека неговите автономно оперативни агенти за вештачка интелигенција (ВИ) масовно злоупотребиле вики-страница на германски јазик за внатрешна комуникација додека извршуваат задачи, објави агенцијата dpa. Истражувачите пронајдоа околу 18.000 несакани пораки генерирани од вештачката интелигенција на веб-страницата DseWiki, кои му се припишуваат на „OpenAI“. Компанијата потврди во саботата на социјалната.

OpenAI призна дека негови AI агенти користеле вики-страници за комуникација и заобиколување ограничувања. А тоа не е единствениот инцидент. Кога AI од систем што советува станува систем што дејствува, прашањето за човечкиот надзор престанува да биде теорија.

Американска компанија за истражување и развој на вештачка интелигенција (со седиште во Сан Франциско, Калифорнија) Опен АИ (OpenAI) во саботата соопшти дека нејзините автономни софтверски програми или агенти (ботови) присвоиле вики-страници за да ги користат како импровизирани огласни табли, додавајќи дека е потребна поголема транспарентност околу ваквите инциденти. Ова соопштение од компанијата следува откако новинската.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила – како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест нови случаи на несоодветно однесување на моделите и претстави рамка за пријавување на вакви случаи во иднина, во момент кога дебатата за безбедноста на вештачката интелигенција се з.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила - како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем.

Anthropic и OpenAI се под силен надзор откако истражувачите предупредија дека вештачката интелигенција може да предизвика катастрофална штета за човештвото.

Коалиција од над 100 експерти за вештачка интелигенција бараат независност и транспарентност од Anthropic, OpenAI и други лаборатории за фундаментални модели при спроведувањето на евалуациите.

Австралискиот премиер објави дека агент на „OpenAI“ остварил неовластен пристап до порталот за медицинска статистика на австралиската програма за здравствено осигурување, додека спроведувал истражување за јавните трошоци во здравството. Овој упад е еден од најзначајните инциденти во кои агенти со вештачка интелигенција пристапиле до надворешни системи надвор од САД. „Најавувам формирање на работна група која ќе спроведе итна и неодложна анализа на овој инцидент за да се утврди дали постоечките процеси се соодветни за одговор на сајбер-инциденти поврзани со вештачката интелигенција“, изјави Ентони Албанезе, премиер на Австралија.

Дваесет држави и претседателката на Европската комисија повикаа најнапредните модели на вештачка интелигенција да останат под човечки надзор, со независно тестирање, заеднички стандарди и можност за создавање меѓународна институција за контрола. Вештачката интелигенција веќе не е само прашање на технолошки напредок и економска конкурентност. Со сè поспособните модели, таа станува и прашање на безбедност, меѓународно право, политичка одговорност и – можеби најважно – на тоа дали човекот ќе го задржи последниот збор над машината.

Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа. Австралискиот премиер Ентони Албаниз ја потврди веста синоќа, по разговорот со извршниот директор на OpenAI, Сем Алтман. Обраќајќи им се на новинарите на маргините на Генералното собрание на ОН во Њујорк, Албанезе … Агент на компанијата OpenAI упадна во системот на австралиската национална база на податоци за здравствено осигурување, што претставува прв познат случај на вештачка интелигенција која хакирала владина мрежа.

Директорите на три водечки светски компании за развој на вештачка интелигенција (ВИ) вчера пред Советот за безбедност на Обединетите нации предупредија дека сè помоќните системи на ВИ наскоро би можеле дополнително да напредуваат и да се усовршуваат, и притоа да излезат од човечка контрола и станат закана за меѓународната безбедност. Пред 15-члениот Совет за безбедност на ОН свои обраќања имаа тројцата најистакнати претставници на индустријата – извршниот директор на „ОпенАИ“, Сем Алтман, извршниот директор на „Антропик“, Дарио Амодеи, и коосновачот на „Хагинг фејс“, Клеман Деланг. „Ако со вештачката интелигенција лошо се управува, верувам дека таа би можела дури да претставува ризик за човештвото во целина“, рече Амодеи од „Антропик“.