Компанијата „OpenAI“, развивачот на ChatGPT, призна дека неговите автономно оперативни агенти за вештачка интелигенција (ВИ) масовно злоупотребиле вики-страница на германски јазик за внатрешна комуникација додека извршуваат задачи, објави агенцијата dpa. Истражувачите пронајдоа околу 18.000 несакани пораки генерирани од вештачката интелигенција на веб-страницата DseWiki, кои му се припишуваат на „OpenAI“. Компанијата потврди во саботата на социјалната.

OpenAI призна дека негови AI агенти користеле вики-страници за комуникација и заобиколување ограничувања. А тоа не е единствениот инцидент. Кога AI од систем што советува станува систем што дејствува, прашањето за човечкиот надзор престанува да биде теорија.

Американска компанија за истражување и развој на вештачка интелигенција (со седиште во Сан Франциско, Калифорнија) Опен АИ (OpenAI) во саботата соопшти дека нејзините автономни софтверски програми или агенти (ботови) присвоиле вики-страници за да ги користат како импровизирани огласни табли, додавајќи дека е потребна поголема транспарентност околу ваквите инциденти. Ова соопштение од компанијата следува откако новинската.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила – како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест нови случаи на несоодветно однесување на моделите и претстави рамка за пријавување на вакви случаи во иднина, во момент кога дебатата за безбедноста на вештачката интелигенција се з.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила - како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем.

Anthropic и OpenAI се под силен надзор откако истражувачите предупредија дека вештачката интелигенција може да предизвика катастрофална штета за човештвото.

Коалиција од над 100 експерти за вештачка интелигенција бараат независност и транспарентност од Anthropic, OpenAI и други лаборатории за фундаментални модели при спроведувањето на евалуациите.

Компанијата „OpenAI“, развивачот на ChatGPT, призна дека неговите автономно оперативни агенти за вештачка интелигенција (ВИ) масовно злоупотребиле вики-страница на германски јазик за внатрешна комуникација додека извршуваат задачи, објави агенцијата dpa. Истражувачите пронајдоа околу 18.000 несакани пораки генерирани од вештачката интелигенција на веб-страницата DseWiki, кои му се припишуваат на „OpenAI“. Компанијата потврди во саботата на социјалната.

OpenAI призна дека негови AI агенти користеле вики-страници за комуникација и заобиколување ограничувања. А тоа не е единствениот инцидент. Кога AI од систем што советува станува систем што дејствува, прашањето за човечкиот надзор престанува да биде теорија.

Американска компанија за истражување и развој на вештачка интелигенција (со седиште во Сан Франциско, Калифорнија) Опен АИ (OpenAI) во саботата соопшти дека нејзините автономни софтверски програми или агенти (ботови) присвоиле вики-страници за да ги користат како импровизирани огласни табли, додавајќи дека е потребна поголема транспарентност околу ваквите инциденти. Ова соопштение од компанијата следува откако новинската.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила – како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест нови случаи на несоодветно однесување на моделите и претстави рамка за пријавување на вакви случаи во иднина, во момент кога дебатата за безбедноста на вештачката интелигенција се з.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила - како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем.

Anthropic и OpenAI се под силен надзор откако истражувачите предупредија дека вештачката интелигенција може да предизвика катастрофална штета за човештвото.

Коалиција од над 100 експерти за вештачка интелигенција бараат независност и транспарентност од Anthropic, OpenAI и други лаборатории за фундаментални модели при спроведувањето на евалуациите.