AI & automationAI & automation
AI hallucinations: why AI makes things up and how to stop it
A customer asks the chatbot on your website what a dormer costs. The bot smoothly names an amount and a delivery time of two weeks. Except that amount appears nowhere in your price list and you never quoted that lead time. The customer calls and is angry. This is called an AI hallucination: the model gives an answer that looks right but is not. In this article you will read why that happens, what it can cost you and how to catch it in practice.
In short
- What a hallucination actually is. A hallucination is not a fault and not a bug.
- Why a language model makes things up. To catch it you need to understand what happens under the bonnet.
- What it can cost you. For your own rough draft a mistake is no disaster.
DPS MediaWritten by DPS Media · Published 31 August 2026
Want this for your business?We build the site, the visibility and the follow-up as one system.Book a call
What a hallucination actually is
A hallucination is not a fault and not a bug. The system is doing exactly what it is meant to do. It produces a fluent, believable answer. The content of that answer simply has not been checked against reality, because that is not what the model does.
The tricky part is the tone. A person who does not know something hesitates audibly. They say: I think it is around six thousand, but let me check. A language model does not do that by itself. It delivers an invented delivery time in the same firm tone as a correct one. That is where the risk sits.
Why a language model makes things up
To catch it you need to understand what happens under the bonnet. It is less magical than it looks.
It predicts language, not facts
A language model is trained to predict which word logically follows the previous ones. It has seen enormous amounts of text and has become very good at patterns. What it does not have is a list of facts it looks up. There is no database of your prices inside it. It builds a sentence that sounds the way such sentences usually sound.
It would rather answer than say nothing
Models are tuned to be helpful. A question gets an answer. If the information is missing, the model fills the gap with something that fits. So a price question produces a price, because that is what belongs there. Saying it does not know is behaviour you have to build in on purpose.
Gaps in what it learned
The model only knows what it saw during training, up to a certain point. This month's rates, your new delivery terms and the name of your new colleague are not in there. Ask about those without supplying the information and it will construct something plausible. That is exactly the moment things go wrong.
What it can cost you
For your own rough draft a mistake is no disaster. You read it back and take it out. It changes the moment a customer sees the answer directly.
A wrong price
A stated amount creates expectations. A customer who read a price on your site feels cheated when the quote comes in higher. Even if you are legally in the clear, you often lose the job and are left with a bad conversation.
An invented delivery time
Delivery times are sensitive because people plan around them. Somebody books time off, orders a skip or cancels their old supplier. A lead time that was never promised but was read costs trust and sometimes money.
A guarantee that does not exist
This is the most dangerous one. A bot that casually promises something about warranty, repair or liability is making a statement you would rather have made yourself. Never let this kind of subject stand loose in an automated answer, and if in doubt ask your own lawyer how to phrase it.
Catching it starts with your own documents
The most important measure is also the most effective: do not let the model draw on its memory, let it draw on your material. With every question you supply the relevant documents and the instruction is to answer only from those.
How that works
You put your price list, your terms, your frequently asked questions and your product information into a collection the system can search. When a question comes in, the system first finds the matching passages and answers from those. It no longer invents, it quotes. If the answer is not there, it should say so.
What it asks of you
Your documents have to be correct and current. If there are three price lists with different amounts, the system picks one and you still have a problem. This is often the real work: one place where the right information lives, and an agreement on who maintains it. Anyone who wants to automate business processes runs into this.
Setting limits on what it may say
The second layer is scope. Not everything needs to be answered. An AI agent that knows where to stop is worth more than one with an opinion about everything.
Make a do not answer list
Write down which subjects are never answered independently. Final prices, discounts, delivery times, warranty, liability, medical or legal questions and anything to do with an ongoing dispute. On those subjects the system gives one fixed reply and passes the question to a person.
Teach it to say it does not know
State explicitly that saying something is unknown is better than guessing. That sounds obvious, but without that instruction the model picks the helpful guess. Test it too: deliberately ask a question whose answer is nowhere in your material and see what comes out.
A person where money or safety is involved
The third layer is simple: the system prepares, the person decides. Anywhere a mistake costs money or puts somebody at risk, an approval belongs in between.
That does not have to be cumbersome. Have the draft email ready and sendable with one click. Have a quote filled in completely and leave only the sending to a person. In practice that costs seconds and it saves you the conversations that cost hours.
Watch out for connections here. If text runs automatically through a connector tool or a direct API connection into your quoting software or your invoicing, the reading moment often disappears quietly. Build that moment back in deliberately, certainly in the first few months.
The same goes for your lead follow up. An automatic reply to a request is fine, but do not let that reply make substantive promises. Confirming that the request arrived and when you will call back is enough.
Measuring how often it goes wrong
What you do not measure, you do not know. Most businesses discover a problem through an angry customer. There is an easier way.
Keep the conversations
Log every question and every answer. Without a log you cannot check anything afterwards and cannot improve anything. Keep privacy in mind: store no more than you need and agree how long you keep it.
Read a sample every week
Take twenty conversations a week and judge them simply: correct, not correct, should have been passed on. Count the errors. Now you have a number and you can see whether changes help. This costs half an hour and is the cheapest quality control there is.
Where do you start?
Start where the risk is highest. Usually that is the answer that reaches a customer directly. Put the brakes on there: draw only from your own documents, keep a do not answer list for prices and promises, and have a person looking over its shoulder.
Only then move on to the internal work. If you want to automate your administration, for example, the stakes are lower, but the same rule applies: check everything for the first few weeks and only widen the freedom once the numbers look good.
Reliability is not a setting you switch on. It is a way of setting things up: limited sources, clear boundaries, a person at the sensitive points and a number you keep track of. Do that and AI becomes predictable rather than exciting.
As long as you catch this, there is little reason to be cautious about AI automation; most of the risk sits in the setup, not in the model.
More from the knowledge base
All 27 articles in this series →AI & automation
AI & automationWhat is an AI agent and what can it do for your business?
AI & automationAutomating business processes: where do you start?
AI & automationAutomating your admin: invoices, quotes and time tracking
AI & automationFrom enquiry to job: automating your lead follow-up
AI & automationAn AI chatbot on your website: when does it work and when does it not?
AI & automationZapier, Make or custom software: which automation fits your business?
AI & automationWhat is n8n and what can you use it for in your business?
AI & automationMicrosoft Copilot for small business: where does it really save time?
AI & automationThe ChatGPT API: putting a language model to work inside your own system
AI & automationWhat is a webhook? A plain explanation, with an example
AI & automationBuilding your own AI agent: what such a project really looks like
AI & automationHaving an API connection built: what to know beforehand
AI & automationChoosing a CRM system without getting stuck in the demo carousel
AI & automationBuilding a customer portal: when your own client area pays off
AI & automationStaff planning software: from spreadsheet to a schedule that holds up
AI & automationWork order app: from a note in the van to an invoice the same day
AI & automationTime tracking for freelancers: the problem is not writing, it is forgetting
AI & automationQuoting software for construction: faster quotes and real follow-up
AI & automationWhatsApp Business API: what it is and when it pays off
AI & automationAI receptionist: who answers when everyone is out working?
AI & automationMarketing automation for smaller firms: start with three flows
AI & automationSpeech to text at work: from a spoken note to a work order
AI & automationThe AI Act explained: what the European AI rules mean for small business
AI & automationAI in construction: where it already works in the back office
AI & automationAI in healthcare: the admin, not the treatment
Testimonials
We Build Your
Online Backbone
A website is the foundation. But a foundation on its own does not keep a business standing: you also need to be found, you need ads that bring in the right people and systems that catch every enquiry instead of letting it slip.
We build that whole frame. The website or webshop, the SEO and Google Ads around it, and the automation behind it: from CRM and quotes to following up on every request. Separately those parts bring little: a fine site without visitors, or visitors nobody follows up. Together they become a business that brings in customers every day.
What entrepreneurs think of that, you can read here.
Ik ben ontzettend tevreden over de samenwerking. Ze hebben met behulp van AI een groot deel van mijn systeem geautomatiseerd, waardoor ik inmiddels meerdere uren per maand bespaar. Daarnaast hebben ze ons geholpen met de werving van personeel. Dat traject loopt nog, maar we hebben nu al drie sollicitanten binnengekregen. Ook hebben ze mijn website compleet vernieuwd en mijn Google Bedrijfsprofiel opgezet en ingericht. Alles wordt professioneel aangepakt en de service is echt top. Ze denken goed mee, reageren snel en leveren gewoon goed werk. Zeker een aanrader als je je bedrijf wilt automatiseren, online beter zichtbaar wilt worden en processen slimmer wilt inrichten!
Vanaf het eerste contact ben ik ontzettend goed geholpen. De communicatie is snel, duidelijk en persoonlijk. De website is precies geworden zoals ik voor ogen had en ook de Google-marketing heeft echt gebracht wat ik nodig had. Professioneel, betrouwbaar en heel fijn om mee samen te werken. Absoluut een aanrader!
Ik ben een blije ondernemer. De zaken gaan goed. Bedankt Dikkie en Simon.
Binnen 1,5 week waren we live. We zijn nu 3,5 maand verder en hebben deze maand 43 offertes binnengehaald. Ik kan het gewoon niet geloven. Zoveel geprobeerd, zoveel partijen gehad, dit was mijn laatste adem. Dankjewel DPS.
Ik ben zeer verrast wat de kracht van AI kan betekenen voor je bedrijf! Scheelt me 20 uur per maand aan administratie. Ook zeer verrast met het resultaat dat uit SEA is gekomen en de jongens draaien het met AI. Dikkie bedankt voor een goede samenwerking en een hele lange, haha.
Simon en Dikkie denken goed mee, zijn prettig in de communicatie en komen professioneel en betrouwbaar over. Wij werken met DPS Media onder andere voor onze online marketing en SEA-campagnes. We merken dat er actief wordt meegedacht over hoe we beter vindbaar kunnen worden en hoe we meer relevante aanvragen via Google kunnen binnenhalen. Wat ik vooral waardeer is de persoonlijke aanpak, snelle communicatie en het feit dat er niet alleen naar advertenties wordt gekeken, maar ook naar het resultaat voor ons bedrijf.
Super bedrijf. Mijn hele website heb ik bij hun laten bouwen. Heel aardige mensen, top service.
De samenwerking tussen Aanvraagmachine.nl en DPS Media is vanaf de start een mega succes. DPS helpt hun klanten om maximaal online te groeien en voor een select aantal klanten bouwen we daar vanuit Aanvraagmachine.nl een complete extra leadmachine naast. Dikkie en Simon zijn beide niet weg te slaan als het gaat om hun klanten, denken continu mee en willen vooral resultaat zien. Korte lijnen, snel schakelen en geen onnodig gedoe.
Top service! Snelle website die precies past bij de klantreis van mijn bedrijf.
Super blij met het resultaat! Dankje Dikkie voor alles en tot snel.
De mannen van DPS hebben een mooie website voor mij gebouwd. Korte lijnen en snelle acties maken werken met DPS Media een feestje.
Blij met het eindresultaat. Hele goede service. Ze denken met je mee, een echte aanrader. We zijn nu 3 maanden verder en ik haal al klanten uit mijn website. Het moet nog meer worden, maar daar zijn we mee bezig!
Zeer tevreden jongens!
Wat ons is overkomen was onmenselijk, maar daar was gelukkig DPS Media. Ze hoorden ons verhaal en kwamen direct met de juiste oplossingen. We worden gehoord en wat een geweldige website hebben we nu. Bedankt Dikkie en Simon voor jullie inzet.
DPS Media heeft mijn nieuwe website gemaakt en geheel naar tevredenheid. Zeer professioneel en persoonlijk in hun manier van zaken doen. Kortom: een aanrader!
Via Instagram ben ik in contact gekomen met DPS Media. Na een prettig kennismakingsgesprek hebben zij mijn wensen goed in kaart gebracht en zijn ze gestart met het bouwen van mijn website. Het resultaat is precies zoals ik het voor ogen had. Ik ben zeer tevreden over de service, communicatie en het eindresultaat.
Ook ik kreeg een e-mail, eerst vond ik dit raar. Maar na een video-afspraak en een conceptontwerp te hebben gezien ben ik met ze in zee gegaan. Na een week was de site klaar. Alles ging per WhatsApp of bellen. Goede communicatie, kort en bondig, daar hou ik van. Vragen werden beantwoord. Ik ben super tevreden, helemaal naar mijn smaak.
Ik had een verouderde website van 10 jaar geleden. Dikkie deed mij een voorstel voor een gratis conceptontwerp, dat zag er goed uit en toen ben ik in zee gegaan met dit bedrijf. Momenteel bouwen ze nog een website voor mij. Bedankt mannen.
Ik kreeg een mailtje binnen van dit bedrijf, ze vroegen of ik een gratis conceptontwerp wilde zien voor mijn website. Ik vond dat natuurlijk prima, uiteindelijk heb ik de website gekocht en die voldoet prima. Top service Dikkie!
Ik ben ontzettend tevreden over de samenwerking. Ze hebben met behulp van AI een groot deel van mijn systeem geautomatiseerd, waardoor ik inmiddels meerdere uren per maand bespaar. Daarnaast hebben ze ons geholpen met de werving van personeel. Dat traject loopt nog, maar we hebben nu al drie sollicitanten binnengekregen. Ook hebben ze mijn website compleet vernieuwd en mijn Google Bedrijfsprofiel opgezet en ingericht. Alles wordt professioneel aangepakt en de service is echt top. Ze denken goed mee, reageren snel en leveren gewoon goed werk. Zeker een aanrader als je je bedrijf wilt automatiseren, online beter zichtbaar wilt worden en processen slimmer wilt inrichten!
Vanaf het eerste contact ben ik ontzettend goed geholpen. De communicatie is snel, duidelijk en persoonlijk. De website is precies geworden zoals ik voor ogen had en ook de Google-marketing heeft echt gebracht wat ik nodig had. Professioneel, betrouwbaar en heel fijn om mee samen te werken. Absoluut een aanrader!
Ik ben een blije ondernemer. De zaken gaan goed. Bedankt Dikkie en Simon.
Binnen 1,5 week waren we live. We zijn nu 3,5 maand verder en hebben deze maand 43 offertes binnengehaald. Ik kan het gewoon niet geloven. Zoveel geprobeerd, zoveel partijen gehad, dit was mijn laatste adem. Dankjewel DPS.
Ik ben zeer verrast wat de kracht van AI kan betekenen voor je bedrijf! Scheelt me 20 uur per maand aan administratie. Ook zeer verrast met het resultaat dat uit SEA is gekomen en de jongens draaien het met AI. Dikkie bedankt voor een goede samenwerking en een hele lange, haha.
Simon en Dikkie denken goed mee, zijn prettig in de communicatie en komen professioneel en betrouwbaar over. Wij werken met DPS Media onder andere voor onze online marketing en SEA-campagnes. We merken dat er actief wordt meegedacht over hoe we beter vindbaar kunnen worden en hoe we meer relevante aanvragen via Google kunnen binnenhalen. Wat ik vooral waardeer is de persoonlijke aanpak, snelle communicatie en het feit dat er niet alleen naar advertenties wordt gekeken, maar ook naar het resultaat voor ons bedrijf.
Super bedrijf. Mijn hele website heb ik bij hun laten bouwen. Heel aardige mensen, top service.
De samenwerking tussen Aanvraagmachine.nl en DPS Media is vanaf de start een mega succes. DPS helpt hun klanten om maximaal online te groeien en voor een select aantal klanten bouwen we daar vanuit Aanvraagmachine.nl een complete extra leadmachine naast. Dikkie en Simon zijn beide niet weg te slaan als het gaat om hun klanten, denken continu mee en willen vooral resultaat zien. Korte lijnen, snel schakelen en geen onnodig gedoe.
Top service! Snelle website die precies past bij de klantreis van mijn bedrijf.
Super blij met het resultaat! Dankje Dikkie voor alles en tot snel.
De mannen van DPS hebben een mooie website voor mij gebouwd. Korte lijnen en snelle acties maken werken met DPS Media een feestje.
Blij met het eindresultaat. Hele goede service. Ze denken met je mee, een echte aanrader. We zijn nu 3 maanden verder en ik haal al klanten uit mijn website. Het moet nog meer worden, maar daar zijn we mee bezig!
Zeer tevreden jongens!
Wat ons is overkomen was onmenselijk, maar daar was gelukkig DPS Media. Ze hoorden ons verhaal en kwamen direct met de juiste oplossingen. We worden gehoord en wat een geweldige website hebben we nu. Bedankt Dikkie en Simon voor jullie inzet.
DPS Media heeft mijn nieuwe website gemaakt en geheel naar tevredenheid. Zeer professioneel en persoonlijk in hun manier van zaken doen. Kortom: een aanrader!
Via Instagram ben ik in contact gekomen met DPS Media. Na een prettig kennismakingsgesprek hebben zij mijn wensen goed in kaart gebracht en zijn ze gestart met het bouwen van mijn website. Het resultaat is precies zoals ik het voor ogen had. Ik ben zeer tevreden over de service, communicatie en het eindresultaat.
Ook ik kreeg een e-mail, eerst vond ik dit raar. Maar na een video-afspraak en een conceptontwerp te hebben gezien ben ik met ze in zee gegaan. Na een week was de site klaar. Alles ging per WhatsApp of bellen. Goede communicatie, kort en bondig, daar hou ik van. Vragen werden beantwoord. Ik ben super tevreden, helemaal naar mijn smaak.
Ik had een verouderde website van 10 jaar geleden. Dikkie deed mij een voorstel voor een gratis conceptontwerp, dat zag er goed uit en toen ben ik in zee gegaan met dit bedrijf. Momenteel bouwen ze nog een website voor mij. Bedankt mannen.
Ik kreeg een mailtje binnen van dit bedrijf, ze vroegen of ik een gratis conceptontwerp wilde zien voor mijn website. Ik vond dat natuurlijk prima, uiteindelijk heb ik de website gekocht en die voldoet prima. Top service Dikkie!
Ik ben ontzettend tevreden over de samenwerking. Ze hebben met behulp van AI een groot deel van mijn systeem geautomatiseerd, waardoor ik inmiddels meerdere uren per maand bespaar. Daarnaast hebben ze ons geholpen met de werving van personeel. Ook hebben ze mijn website compleet vernieuwd en mijn Google Bedrijfsprofiel opgezet en ingericht. Alles wordt professioneel aangepakt en de service is echt top.
Meer dan tevreden! Vanaf het eerste contact ben ik ontzettend goed geholpen. De communicatie is snel, duidelijk en persoonlijk. De website is precies geworden zoals ik voor ogen had en ook de Google-marketing heeft echt gebracht wat ik nodig had.
Ik ben een blije ondernemer. De zaken gaan goed. Bedankt Dikkie en Simon.
Binnen 1,5 week waren we live. We zijn nu 3,5 maand verder en hebben deze maand 43 offertes binnengehaald. Ik kan het gewoon niet geloven. Zoveel geprobeerd, zoveel partijen gehad, dit was mijn laatste adem. Dankjewel DPS.
Ik ben zeer verrast wat de kracht van AI kan betekenen voor je bedrijf! Scheelt me 20 uur per maand aan administratie. Ook zeer verrast met het resultaat dat uit SEA is gekomen en de jongens draaien het met AI. Dikkie bedankt voor een goede samenwerking en een hele lange, haha.
Geweldig bedrijf, heeft met de techniek van nu (AI) mijn website voorzien van geweldige punten. Zeer fijne gasten om mee te werken.
Wij zijn ontzettend blij met onze website! Ze hebben echt supergoed hun best gedaan om precies te maken wat wij voor ogen hadden. Ze schakelen supersnel, luisteren goed naar onze wensen en denken echt met ons mee. Heel fijn om zo samen te werken, absoluut een aanrader!
Zeer tevreden over de samenwerking met DPS Media. Simon en Dikkie denken goed mee, zijn prettig in de communicatie en komen professioneel en betrouwbaar over. Wij werken met DPS Media onder andere voor onze online marketing en SEA-campagnes. We merken dat er actief wordt meegedacht over hoe we beter vindbaar kunnen worden en hoe we meer relevante aanvragen via Google kunnen binnenhalen. Wat ik vooral waardeer is de persoonlijke aanpak, snelle communicatie en het feit dat er niet alleen naar advertenties wordt gekeken, maar ook naar het resultaat voor ons bedrijf.
Super service, best bedrijf en aardige mensen.
De mannen hebben ons voorzien van een mooie site EN veel aanvragen!
Perfecte en nette websites van DPS. Door de lijnen kort te houden bouwt DPS een mooie site die je zelf kan reviewen met opmerkingen en toevoegingen.
DPS Media is een mooi jong bedrijf dat voor mijn bedrijf BHV Weesp een mooie website heeft gemaakt. Daarnaast zijn de mannen erg welwillend met aanpassingen die ik wens. Via een eigen WhatsApp-groep hebben we korte lijnen.
Website naar tevredenheid gebouwd. Snelle en goede service.
Deze mensen weten wat ze doen en zijn daar goed in. Communicatie verloopt soepel en snel.
DPS Media heeft mijn nieuwe website geheel naar tevredenheid gemaakt. Een fijne samenwerking en een passend voorstel voor mijn bedrijfsomvang. Professioneel en persoonlijk in hun manier van zaken doen. Echt een aanrader!
Ik ben ontzettend tevreden over de samenwerking. Ze hebben met behulp van AI een groot deel van mijn systeem geautomatiseerd, waardoor ik inmiddels meerdere uren per maand bespaar. Daarnaast hebben ze ons geholpen met de werving van personeel. Ook hebben ze mijn website compleet vernieuwd en mijn Google Bedrijfsprofiel opgezet en ingericht. Alles wordt professioneel aangepakt en de service is echt top.
Meer dan tevreden! Vanaf het eerste contact ben ik ontzettend goed geholpen. De communicatie is snel, duidelijk en persoonlijk. De website is precies geworden zoals ik voor ogen had en ook de Google-marketing heeft echt gebracht wat ik nodig had.
Ik ben een blije ondernemer. De zaken gaan goed. Bedankt Dikkie en Simon.
Binnen 1,5 week waren we live. We zijn nu 3,5 maand verder en hebben deze maand 43 offertes binnengehaald. Ik kan het gewoon niet geloven. Zoveel geprobeerd, zoveel partijen gehad, dit was mijn laatste adem. Dankjewel DPS.
Ik ben zeer verrast wat de kracht van AI kan betekenen voor je bedrijf! Scheelt me 20 uur per maand aan administratie. Ook zeer verrast met het resultaat dat uit SEA is gekomen en de jongens draaien het met AI. Dikkie bedankt voor een goede samenwerking en een hele lange, haha.
Geweldig bedrijf, heeft met de techniek van nu (AI) mijn website voorzien van geweldige punten. Zeer fijne gasten om mee te werken.
Wij zijn ontzettend blij met onze website! Ze hebben echt supergoed hun best gedaan om precies te maken wat wij voor ogen hadden. Ze schakelen supersnel, luisteren goed naar onze wensen en denken echt met ons mee. Heel fijn om zo samen te werken, absoluut een aanrader!
Zeer tevreden over de samenwerking met DPS Media. Simon en Dikkie denken goed mee, zijn prettig in de communicatie en komen professioneel en betrouwbaar over. Wij werken met DPS Media onder andere voor onze online marketing en SEA-campagnes. We merken dat er actief wordt meegedacht over hoe we beter vindbaar kunnen worden en hoe we meer relevante aanvragen via Google kunnen binnenhalen. Wat ik vooral waardeer is de persoonlijke aanpak, snelle communicatie en het feit dat er niet alleen naar advertenties wordt gekeken, maar ook naar het resultaat voor ons bedrijf.
Super service, best bedrijf en aardige mensen.
De mannen hebben ons voorzien van een mooie site EN veel aanvragen!
Perfecte en nette websites van DPS. Door de lijnen kort te houden bouwt DPS een mooie site die je zelf kan reviewen met opmerkingen en toevoegingen.
DPS Media is een mooi jong bedrijf dat voor mijn bedrijf BHV Weesp een mooie website heeft gemaakt. Daarnaast zijn de mannen erg welwillend met aanpassingen die ik wens. Via een eigen WhatsApp-groep hebben we korte lijnen.
Website naar tevredenheid gebouwd. Snelle en goede service.
Deze mensen weten wat ze doen en zijn daar goed in. Communicatie verloopt soepel en snel.
DPS Media heeft mijn nieuwe website geheel naar tevredenheid gemaakt. Een fijne samenwerking en een passend voorstel voor mijn bedrijfsomvang. Professioneel en persoonlijk in hun manier van zaken doen. Echt een aanrader!
Follow us
on social media