Vrijdagpost: AI-magie vereist knowhow en rekenkracht

De redactie van Heise online bespreekt de fascinatie van zonsverduisteringen en vergelijkt dit met de magie van AI, waarbij gebruikers indrukwekkende antwoorden of zelfs werkende programma's krijgen van statistische processen die moeilijk te begrijpen zijn. Om AI volledig te benutten, is basiskennis noodzakelijk, dus publiceerde het magazine een driedelige beginnershandleiding voor de Claude-chatbot, met de nadruk op personalisatie om context, stijl en kennis te behouden in gesprekken, en op veiligheidsrisico's bij het verlenen van bestandstoegang. Het artikel legt ook uit dat AI-magie plaatsvindt op lokale pc's of in speciale AI-datacenters, die vooral in de VS toenemen en verschillen van traditionele serverparken. Voor lokaal gebruik is hardware met minimaal 16 GB VRAM vereist, en Heise testte twee budgetvideokaarten met 16 GB VRAM, waarbij benchmarks werden gedraaid met actuele AI-modellen, wat verschillen aan het licht bracht tussen AMD- en Nvidia-kaarten in verwerkingssnelheid, gemeten in tokens per seconde. Daarnaast beveelt de redacteur artikelen aan over het maken en afdrukken van een fotoboek en een test van een bedklimaatkoeler.