OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила – како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест нови случаи на несоодветно однесување на моделите и претстави рамка за пријавување на вакви случаи во иднина, во момент кога дебатата за безбедноста на вештачката интелигенција се з.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила - како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем.

OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при … OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при собирањето и споделувањето информации.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

„OpenAI“ привремено ја запре обуката на своите најнови модели на вештачка интелигенција по инцидентите во текот на летото, во кои агентите неочекувано постапувале на веб-страниците на американските федерални институции. Компанијата соопшти дека ќе продолжи со развојот „дури кога ќе бидеме сигурни дека имаме дополнителни заштитни мерки“, со напомена дека веројатно повторно ќе мора да прави паузи како што ќе се развива вештачката интелигенција и ќе се појавуваат нови проблеми. Одлуката следуваше неколку часа откако „OpenAI“ објави дека разгледува повеќе случаи од летниот период.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

По бомбастичното лансирање на личниот агент Muse на Meta претходно овој месец, OpenAI влезе на пазарот на лични агенти со Dots.

Сем Алтман зборуваше во Сан Франциско на годишниот настан на „OpenAI“ за технолошки развивачи.

OpenAI претстави нова генерација AI агенти наречени „Dots“, кои можат самостојно да извршуваат задачи низ различни апликации. За разлика од класичните чет-ботови, агентите можат да продолжат да работат и кога корисникот не е активно пред компјутер. Тие се дизајнирани да следат одредена задача, да ја приспособуваат работата кога ќе се појават нови информации и да OpenAI претстави нова генерација AI агенти наречени „Dots“, кои можат самостојно да извршуваат задачи низ различни апликации.

Откако Сем Алтман во изминатите недели повеќепати зборуваше за ризиците од AI агентите, компанијата OpenAI одлучи да го промени називот за новите верзии на своите алатки. Досега познати како агенти, овие алатки отсега ќе се нарекуваат „Dots“, односно „точки“, пишува BBC. Директорот на компанијата, Сем Алтман, ја претстави новината во Сан Франциско, на годишната конференција за програмери.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила – како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест нови случаи на несоодветно однесување на моделите и претстави рамка за пријавување на вакви случаи во иднина, во момент кога дебатата за безбедноста на вештачката интелигенција се з.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување на случаи каде што моделите ги кршат стандардните правила - како на пример кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

OpenAI објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води се пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија. Тие објавија дека воведуваат нов систем.

OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при … OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции. Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при собирањето и споделувањето информации.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

„OpenAI“ привремено ја запре обуката на своите најнови модели на вештачка интелигенција по инцидентите во текот на летото, во кои агентите неочекувано постапувале на веб-страниците на американските федерални институции. Компанијата соопшти дека ќе продолжи со развојот „дури кога ќе бидеме сигурни дека имаме дополнителни заштитни мерки“, со напомена дека веројатно повторно ќе мора да прави паузи како што ќе се развива вештачката интелигенција и ќе се појавуваат нови проблеми. Одлуката следуваше неколку часа откако „OpenAI“ објави дека разгледува повеќе случаи од летниот период.

OpenAI, компанијата што го развива ChatGPT, ја прекина работата на своите најнапредни модели на вештачка интелигенција откако еден од нејзините системи ги заобиколи ограничувањата за пристап до интернет за време на тестирањето и контактираше со надворешен четбот. Моделот не требаше да има пристап до интернет, но пронајде и искористи пропуст во мрежните контроли на тест-окружувањето, предизвикан од недоволно ефикасно DNS филтрирање, објави OpenAI на својот блог. Обуката, евалуацијата и извршувањето на моделите што вклучуваат употреба на алатката ќе останат суспендирани се додека компанијата не биде уверена дека ранливоста е решена и додека не спроведе дополнително безбедносно тестирање.

По бомбастичното лансирање на личниот агент Muse на Meta претходно овој месец, OpenAI влезе на пазарот на лични агенти со Dots.

Сем Алтман зборуваше во Сан Франциско на годишниот настан на „OpenAI“ за технолошки развивачи.

OpenAI претстави нова генерација AI агенти наречени „Dots“, кои можат самостојно да извршуваат задачи низ различни апликации. За разлика од класичните чет-ботови, агентите можат да продолжат да работат и кога корисникот не е активно пред компјутер. Тие се дизајнирани да следат одредена задача, да ја приспособуваат работата кога ќе се појават нови информации и да OpenAI претстави нова генерација AI агенти наречени „Dots“, кои можат самостојно да извршуваат задачи низ различни апликации.

Откако Сем Алтман во изминатите недели повеќепати зборуваше за ризиците од AI агентите, компанијата OpenAI одлучи да го промени називот за новите верзии на своите алатки. Досега познати како агенти, овие алатки отсега ќе се нарекуваат „Dots“, односно „точки“, пишува BBC. Директорот на компанијата, Сем Алтман, ја претстави новината во Сан Франциско, на годишната конференција за програмери.