<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>OpenAI Archieven - HEESEN Online</title>
	<atom:link href="https://heesen.online/tag/openai/feed/" rel="self" type="application/rss+xml" />
	<link>https://heesen.online/tag/openai/</link>
	<description>Blogs van Jos Heesen</description>
	<lastBuildDate>Mon, 02 Nov 2026 10:41:26 +0000</lastBuildDate>
	<language>nl-NL</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	<generator>https://wordpress.org/?v=7.1.4</generator>
	<item>
		<title>Is er een rem op AI?</title>
		<link>https://heesen.online/is-er-een-rem-op-ai/</link>
					<comments>https://heesen.online/is-er-een-rem-op-ai/#respond</comments>
		
		<dc:creator><![CDATA[JosWP]]></dc:creator>
		<pubDate>Thu, 15 Oct 2026 13:05:00 +0000</pubDate>
				<category><![CDATA[Actueel]]></category>
		<category><![CDATA[Teksten in het Nederlands/Dutch]]></category>
		<category><![CDATA[Wis- en Natuurkunde]]></category>
		<category><![CDATA[AI]]></category>
		<category><![CDATA[Anthropic]]></category>
		<category><![CDATA[ChatGPT]]></category>
		<category><![CDATA[OpenAI]]></category>
		<guid isPermaLink="false">https://heesen.online/?p=8688</guid>

					<description><![CDATA[<p>Onderzoekers zeggen dat ze een eenvoudige wiskundige formule hebben ontwikkeld die kan voorspellen wanneer bepaalde ChatGPT-achtige chatbots voor kunstmatige intelligentie (AI) ‘schurkenstreken’ gaan uithalen en plotseling zullen overschakelen van nuttige reacties naar potentieel schadelijke reacties.</p>
<p>Het bericht <a href="https://heesen.online/is-er-een-rem-op-ai/">Is er een rem op AI?</a> verscheen eerst op <a href="https://heesen.online">HEESEN Online</a>.</p>
]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph">Onderzoekers zeggen dat ze een eenvoudige wiskundige formule hebben ontwikkeld die kan voorspellen wanneer bepaalde <em>ChatGPT</em>-achtige chatbots voor kunstmatige intelligentie (AI) ‘<em>schurkenstreken</em>’ gaan uithalen en plotseling zullen overschakelen van nuttige reacties naar potentieel schadelijke reacties.</p>



<p class="wp-block-paragraph">In een nieuwe studie die op 8 oktober in het tijdschrift <em>Patterns</em> is gepubliceerd, laten natuurkundeprofessor <em>Neil Johnson</em> en promovendus <em>Frank Yingjie Huo</em>, beiden aan de <em>George Washington University</em>, zien hoe de volgorde waarin een chatbot bepaalde aanwijzingen (&#8220;prompts&#8221;) krijgt, zijn antwoorden drastisch kan hervormen, wat leidt tot tot &#8220;omslagpunten&#8221; die de chatbot naar een slecht advies kunnen sturen. Johnson en Huo zeggen echter dat hun formule deze omslagpunten gemakkelijk kan voorspellen. </p>



<p class="wp-block-paragraph">Er zijn horrorverhalen geweest waarin AI gebruikers aanmoedigde tot zelfmoord, hielp bij het bouwen van dodelijke wapens en gewelddadige of schadelijke standpunten versterkte. Tegelijkertijd hebben onderzoekers van respectievelijk <em>OpenAI</em> en <em>Anthropic</em> herhaaldelijk en openlijk verklaard dat ze niet echt begrijpen waarom hun creaties zich gedragen zoals ze doen. Ze hebben echter ingebouwde waarborgen om risico&#8217;s te verminderen.</p>



<figure class="wp-block-image size-full"><img fetchpriority="high" decoding="async" width="800" height="543" src="https://heesen.online/wp-content/uploads/2026/10/openaichatgpt.jpg" alt="" class="wp-image-8690" srcset="https://heesen.online/wp-content/uploads/2026/10/openaichatgpt.jpg 800w, https://heesen.online/wp-content/uploads/2026/10/openaichatgpt-300x204.jpg 300w, https://heesen.online/wp-content/uploads/2026/10/openaichatgpt-768x521.jpg 768w" sizes="(max-width: 800px) 100vw, 800px" /></figure>



<p class="wp-block-paragraph">Maar Johnson beschouwt deze instrumenten als onvoldoende. &#8220;<em>De veiligheids-maatregelen zijn nu het equivalent van het vastbinden van grote, veerkrachtige kussens onder een vliegtuig</em>&#8220;, vertelde hij. &#8220;<em>Ze voorkomen niet dat het vliegtuig neerstort; ze zorgen er gewoon voor dat wanneer het vliegtuig neerstort, het iets zachter zal zijn</em>.&#8221;</p>



<p class="wp-block-paragraph">Johnson en Huo probeerden een fundamentelere waarborg te vinden dan de momenteel beschikbare instrumenten. Daarbij hebben ze een intern volg-mechanisme blootgelegd dat ze omschrijven als een kompasnaald. Deze naald is de &#8220;<em>restvector</em>&#8221; van het model die door neurale netwerklagen beweegt terwijl een prompt wordt verwerkt.</p>



<p class="wp-block-paragraph">De restvector wordt van nature aangetrokken tot wenselijke of ongewenste output, maar wordt sterk beïnvloed door de manier waarop een gebruiker de AI aanstuurt. &#8220;<em>Je kunt de balans doen doorslaan, niet eens door de inhoud te veranderen, maar door de volgorde waarin je het vraagt te veranderen</em>&#8220;, zei Johnson, &#8220;<em>wat alleen maar laat zien hoe delicaat dit interne evenwicht tussen goed en slecht, wenselijk en ongewenst kan zijn</em>.&#8221;</p>



<p class="wp-block-paragraph">Johnson en Huo hebben bijvoorbeeld het <em>basis-GPT-2-model</em> van OpenAI gevraagd met vragen over vaccins, het kwetsen van anderen en zelfbeschadiging. Wanneer de vraag “<em>Zijn vaccins slecht?</em>” als eerste werd gevraagd: dan waren de antwoorden van de bot hierop en daaropvolgende vragen wenselijk of goed. Toen het als laatste werd gevraagd, waren alle daaropvolgende reacties zorgwekkend.</p>



<p class="wp-block-paragraph">Op basis van deze inzichten ontwikkelden de onderzoekers een wiskundige formule om de omstandigheden te schatten waarin een AI het omslagpunt tussen wenselijke en ongewenste output zou bereiken. Johnson zei dat ze, door hun eenvoudige wiskundige formule in open-sourcemodellen in het laboratorium in te bedden, hebben aangetoond dat het empirisch werkt als een systeem voor vroegtijdige waarschuwing, hoewel hij niet verwacht dat OpenAI of Anthropic binnenkort bij hem aankloppen.</p>



<figure class="wp-block-image size-full"><img decoding="async" width="800" height="450" src="https://heesen.online/wp-content/uploads/2026/10/anthropic.jpg" alt="" class="wp-image-8691" srcset="https://heesen.online/wp-content/uploads/2026/10/anthropic.jpg 800w, https://heesen.online/wp-content/uploads/2026/10/anthropic-300x169.jpg 300w, https://heesen.online/wp-content/uploads/2026/10/anthropic-768x432.jpg 768w" sizes="(max-width: 800px) 100vw, 800px" /></figure>



<p class="wp-block-paragraph">&#8220;<em>Ik verwacht veel tegenwerking van deze bedrijven</em>&#8220;, zei hij. &#8220;<em>Het is niet in hun belang dat iemand van buitenaf zegt dat je veel van de problemen had kunnen vermijden.</em>&#8220;</p>



<p class="wp-block-paragraph"><em>Wei Xing</em>, docent AI aan de <em>Universiteit van Sheffield </em>in<em> Groot-Brittannië </em>en niet betrokken bij het onderzoek, is het ermee eens dat de zorgen rond niet-gecontroleerde offline apparaten gegrond zijn. Hij drong echter aan op voorzichtig-heid voordat hij deze aanpak als een praktische waarborg omarmde. &#8220;<em>De auteurs reduceren een enorm systeem tot één klein onderdeel, zoals het uitleggen van een hele auto door één bougie te bestuderen</em>&#8220;, zei Xing.</p>



<p class="wp-block-paragraph">Veiligheidstraining — de primaire verdediging in moderne AI — kan niet worden weergegeven in hun vereenvoudigde model. De formule werd alleen getest op oude basismodellen (<em>GPT-2</em> en <em>EleutherAI</em>&#8217;s open-sourcemodellen <em>Pythia</em> en <em>Meta OPT</em>) in plaats van op AI-assistenten die mensen nu daadwerkelijk gebruiken. De resultaten leverden geen significant bewijs op om de conclusies van de auteurs’ te onder-steunen, voegde hij eraan toe.</p>



<p class="wp-block-paragraph">Ter verdediging beweert Johnson dat de open-sourcemodellen die ze gebruikten dezelfde mechanische blauwdrukken hebben als grenssystemen, en dat hij en Huo in hun onderzoek vrij grote modellen met een miljard parameters gebruikten.</p>



<p class="wp-block-paragraph">Er zijn meer tests op de nieuwste modellen nodig om te bepalen of dit systeem voor vroegtijdige waarschuwing voor AI kan werken. Maar voorlopig heeft het onderzoek van Johnson en Huo de aandacht gevestigd op een belangrijke zorg waarvan iedereen zich bewust zou moeten zijn: dat AI het vermogen heeft om in een mum van tijd over te gaan op ongewenst gedrag.</p>
<p>Het bericht <a href="https://heesen.online/is-er-een-rem-op-ai/">Is er een rem op AI?</a> verscheen eerst op <a href="https://heesen.online">HEESEN Online</a>.</p>
]]></content:encoded>
					
					<wfw:commentRss>https://heesen.online/is-er-een-rem-op-ai/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
	</channel>
</rss>
