Workshop

Augmented Reality Games

Playing with virtual imagery projected onto the real world

2 Jun 2008
4 Jun 2008

Within the short time frame of three days participants conceptualize and construct a prototype of their own Augmented Reality Game. The focus of the workshop, the AR, is about playing with virtual imagery projected onto the real world.

Enlarge

Amazing installation by Pablo Valbuena - Photo taken at the Augmented Reality Games

Workshop approach

Participants will design and construct a prototype of an Augmented Reality Game using the ARToolkit. Interaction between the virtual and the physical will be the focus of the games. The rules of the games are determined by the space programmed into the software, by the space accessible in reality, and by the creativity and persistence of the players.

The morning sessions center on input from workshop trainers. Every afternoon the participants work on their own workshop projects. The workshop closes with a public presentation in which the issues are discussed and the results are shown.

Materials

We'll be working with the ARToolkit. The ARToolKit was originally developed by Dr. Hirokazu Kato, and its ongoing development is being supported by the Human Interface Technology Laboratory (HIT Lab) at the University of Washington, HIT Lab NZ at the University of Canterbury, New Zealand, and ARToolworks, Inc, Seattle.

Explore the http://artoolkit.sourceforge.net/ website.

Basic 3d modelling will be done with Blender , the opensource 3D modelling suite.

Trainers

Julian Oliver - artist, free software developer, teacher, composer and media-theorist
Has given numerous workshops and master classes in game-design, artistic game-development, virtual architecture, interface design, augmented reality and open source development practices worldwide. In 1998 he established the artistic game-development collective, Select Parks.

Jonas Hielscher - designer interactive / educative game installations
He founded z25.org, an organization that supports young new media artists, and has built a range of interactive performance and gaming installations.

Klaas Kuitenbrouwer workshop designer, new media lecturer, and game designer for Oorbeek

Workshop Report door Jelle van der Ster, Klaas Kuitenbrouwer

Voor deze workshop doken we in de mogelijkheden van de ARToolkit, technologie die 'markers' kan herkennen- (in de context van AR betekent 'markers' : zwart-witte objecten of patronen die door de computer herkend kunnen worden in een videobeeld) - en die op of aan die marker virtuele objecten kan plaatsen die deel worden van hetzelfde videobeeld.
Tot op heden is dit soort AR vooral een domein van wetenschappers. Er zijn maar weinig designers die ermee werken, laat staan game designers. Dat is niet zo gek: voor de ARToolkit bestaat alleen een c++ command line interface. Dat is een nadeel aan deze toolkit. Het voordeel is uiteraard (en daaromheen is deze workshop ontworpen) dat elke ontwerper die er toch mee aan de slag wil, meteen een pionier is.

In de presentatie van Julian Oliver (maker van het verbluffende AR spelletje LevelHead) zaten indrukwekkende filmpjes van onderzoeksgroepen de gebruikmaken van natural feature recognition, waarbij de gefilmde omgeving als geheel als marker gaat werken.

De deelnemers werkten zich in deze workshop door de hele keten aan tools die je nodig hebt voor een AR project. Van Blender voor de 3D objecten, naar OpenSceneGraph voor het bouwen van de interactie, naar ARToolkit voor het precieze programmeren van de relaties tussen markers en virtuele objecten.
Het uiteindelijk doel van de workshop is om een spel te bedenken dat van de speciale kenmerken van AR technologie gebruikt: dus van de wisselwerking tussen de fysieke gefilmde wereld en, de markers en de digitale data die aan de markers is gekopppeld. Een typische hybride ontwerp omgeving dus.

Wat kan je ermee?

Voor de ArToolkit of marker augmented reality in het algemeen zijn er natuurlijk tal van creatieve toepassingen. Het blijft een magisch effect als er ineens op de video een object op je marker verschijnt.
De ArToolkit stelt je bijvoorbeeld staat stelt op een relatief eenvoudige manier een mooie tastbare interface te creƫren naar de computer. Met een stuk betekend karton heb je al een soort van sensor in je handen die plaats en rotatie kan meten. Karton is veel eenvoudiger te bewerken dan micro-elektronica.

Ook geven dit soort interfaces interessante gebruiksmogelijkheden. Markers kunnen op handzame voorwerpen geplakt zijn, die zo interfaces worden, maar de kunnen ook deel zijn van de omgeving - op de boekenast, het plafond, de tafel ,of waar dan ook, zodat de gebruiker er vrij doorheen kan lopen.
ARToolkit kan reageren op het herkennen van een marker, maar kan ook geprogrammeerd worden om te reageren op verschillende opeenvolgende lezingen van dezelfde marker. Iemand die door een gemarkerde omgeving loopt kan zo alle mogelijk virtuele gebeurtenissen triggeren.

Daarbij gelden wel speciale beperkingen. Er blijft natuurlijk altijd een camera aangesloten op de computer (een uitgebreide licht sensor). En dat brengt met zich mee dat ARToolkit toepassingen eigenlijk alleen werken onder royale en constante licht condities. Ook moet de camera natuurlijk altijdeen zichtlijn hebben tot de marker(s).

Omdat ARToolkit in c++ is geschreven, en omdat er vooralsnog geen handzame graphical user interface voor de ARToolkit bestaat, zaten in elk workshopteam ervaren coders, spel bedenkers (interactie ontwerpers) en visuele ontwerpers.

In de ongelofelijk korte tijd van drie dagen werken (waarvan een groot deel natuurlijk nodig was voor demo's presentaties en lessen, werden de volgende projecten gemaakt:
Wendy Ann Mansilla, Sven Held en David Lou maakten een evenwichtsspel:
Op een bezemsteel was een kartonnen platform ter grootte van een LP (weet u nog ? ) geplakt (met daarop een marker, en daarboven hangend aan het plafond een camera)
Op dit platform liep een roze dinosaurusje heen en weer. Twee spelers hielden elk een eind van de bezemsteel in handen en moesten de dinosaurus op een kartonnen platform zien te houden.
De moeilijkheid was dat het dinosaurusje altijd omhoog liep. De spelers moesten dus tegenintuitieve bewegingen leren maken. De game had vijf levels: vijf oplopende graden van gevoeligheid van het poppetje voor bewegingen van de spelers.

Jelle van der Ster, Matthijs van Doeselaar en Hein Eberson maakten eeen geheide partykraker in de vorm van een soort getekende versie van Chinese Whispers. Drie spelers krijgen telkens korte tijd een zwart wit tekening te zien. Daarna moeten ze die allemaal zo goed mogelijk uit hun hoofd natekenen, en voor de camera houden. Als de camera de tekening herkent (de originelen waren als markers in ARToolkit geprogrammeerd) verschijnt een virtueel beeld dat met de tekening te maken heeft.
Bovendien krijgt degene die de eerste herkenbare kopie heeft gemaakt een punt dat virtueel boven zijn hoofd verschijnt in het videobeeld.

Het laatste veelbelovende project was van Sonja van Kerkhoff en Maximiliano Chanan. Bij dit spel droeg de speler een marker op zijn voorhoofd. Met behulp daarvan plaatste de computer een virtueel hoofdomhullend masker over de speler. De opdracht is nu dat de speler door trial en error leert een patroon op de grond te lopen voor de camera, waarbij fouten worden bestraft met nare veranderingen in het masker, en de goeie bewegingen worden beloond met gunstige veranderingen.

Sterk aan alledrie de projecten was dat ze ten eerste in zo korte tijd al zo speelbaar waren, maar vooral ook dat ze de ontwerpruimte van Augmented Reality zo goed benutten: de speelse wisselwerking tussen de fysieke en virtuele ruimte. Verder hadden alledrie de spelletjes een zeer sociaal karakter en plaatsten ze zich daarmee qua spelpatronen dichter in de buurt van de Wiimote dan in de buurt van veel andere AR projecten die gebukt gaan onder topzware en isolerende Head Mounted Displays.