Commit 7feebdb0 authored by Maarten Lankhorst's avatar Maarten Lankhorst
Browse files

drm/xe: Make xe_ggtt_node offset relative to starting offset 



Fix all functions that use node->start to use xe_ggtt_node_addr,
and add ggtt->start to node->start.

This will make node shifting for SR-IOV VF a one-liner, instead of
manually changing each GGTT node's base address.

Also convert some uses of mutex_lock/unlock to mutex guards.

Reviewed-by: default avatarMichal Wajdeczko <michal.wajdeczko@intel.com>
Link: https://patch.msgid.link/20260206112108.1453809-8-dev@lankhorst.se


Signed-off-by: default avatarMaarten Lankhorst <dev@lankhorst.se>
parent 4a175759

drivers/gpu/drm/xe/xe_ggtt.c

+31 −22
Original line number Diff line number Diff line
@@ -299,7 +299,7 @@ static void __xe_ggtt_init_early(struct xe_ggtt *ggtt, u64 start, u64 size) 
{

	ggtt->start = start;

	ggtt->size = size;

	drm_mm_init(&ggtt->mm, start, size);

	drm_mm_init(&ggtt->mm, 0, size);

}



int xe_ggtt_init_kunit(struct xe_ggtt *ggtt, u32 start, u32 size)
@@ -401,7 +401,7 @@ static void xe_ggtt_initial_clear(struct xe_ggtt *ggtt) 
	/* Display may have allocated inside ggtt, so be careful with clearing here */

	mutex_lock(&ggtt->lock);

	drm_mm_for_each_hole(hole, &ggtt->mm, start, end)

		xe_ggtt_clear(ggtt, start, end - start);

		xe_ggtt_clear(ggtt, ggtt->start + start, end - start);



	xe_ggtt_invalidate(ggtt);

	mutex_unlock(&ggtt->lock);
@@ -418,7 +418,7 @@ static void ggtt_node_remove(struct xe_ggtt_node *node) 


	mutex_lock(&ggtt->lock);

	if (bound)

		xe_ggtt_clear(ggtt, node->base.start, node->base.size);

		xe_ggtt_clear(ggtt, xe_ggtt_node_addr(node), xe_ggtt_node_size(node));

	drm_mm_remove_node(&node->base);

	node->base.size = 0;

	mutex_unlock(&ggtt->lock);
@@ -570,16 +570,17 @@ int xe_ggtt_node_insert_balloon_locked(struct xe_ggtt_node *node, u64 start, u64 
	xe_tile_assert(ggtt->tile, IS_ALIGNED(start, XE_PAGE_SIZE));

	xe_tile_assert(ggtt->tile, IS_ALIGNED(end, XE_PAGE_SIZE));

	xe_tile_assert(ggtt->tile, !drm_mm_node_allocated(&node->base));

	xe_tile_assert(ggtt->tile, start >= ggtt->start);

	lockdep_assert_held(&ggtt->lock);



	node->base.color = 0;

	node->base.start = start;

	node->base.start = start - ggtt->start;

	node->base.size = end - start;



	err = drm_mm_reserve_node(&ggtt->mm, &node->base);



	if (xe_tile_WARN(ggtt->tile, err, "Failed to balloon GGTT %#llx-%#llx (%pe)\n",

			 node->base.start, node->base.start + node->base.size, ERR_PTR(err)))

			 xe_ggtt_node_addr(node), xe_ggtt_node_addr(node) + node->base.size, ERR_PTR(err)))

		return err;



	xe_ggtt_dump_node(ggtt, &node->base, "balloon");
@@ -770,7 +771,7 @@ static void xe_ggtt_map_bo(struct xe_ggtt *ggtt, struct xe_ggtt_node *node, 
	if (XE_WARN_ON(!node))

		return;



	start = node->base.start;

	start = xe_ggtt_node_addr(node);

	end = start + xe_bo_size(bo);



	if (!xe_bo_is_vram(bo) && !xe_bo_is_stolen(bo)) {
@@ -891,6 +892,14 @@ static int __xe_ggtt_insert_bo_at(struct xe_ggtt *ggtt, struct xe_bo *bo, 
	}



	mutex_lock(&ggtt->lock);

	xe_tile_assert(ggtt->tile, start >= ggtt->start || !start);

	xe_tile_assert(ggtt->tile, end >= ggtt->start);



	if (start)

		start -= ggtt->start;



	end -= ggtt->start;



	err = drm_mm_insert_node_in_range(&ggtt->mm, &bo->ggtt_node[tile_id]->base,

					  xe_bo_size(bo), alignment, 0, start, end, 0);

	if (err) {
@@ -1002,16 +1011,17 @@ static u64 xe_encode_vfid_pte(u16 vfid) 
	return FIELD_PREP(GGTT_PTE_VFID, vfid) | XE_PAGE_PRESENT;

}



static void xe_ggtt_assign_locked(struct xe_ggtt *ggtt, const struct drm_mm_node *node, u16 vfid)

static void xe_ggtt_assign_locked(const struct xe_ggtt_node *node, u16 vfid)

{

	u64 start = node->start;

	u64 size = node->size;

	struct xe_ggtt *ggtt = node->ggtt;

	u64 start = xe_ggtt_node_addr(node);

	u64 size = xe_ggtt_node_size(node);

	u64 end = start + size - 1;

	u64 pte = xe_encode_vfid_pte(vfid);



	lockdep_assert_held(&ggtt->lock);



	if (!drm_mm_node_allocated(node))

	if (!xe_ggtt_node_allocated(node))

		return;



	while (start < end) {
@@ -1033,9 +1043,8 @@ static void xe_ggtt_assign_locked(struct xe_ggtt *ggtt, const struct drm_mm_node 
 */

void xe_ggtt_assign(const struct xe_ggtt_node *node, u16 vfid)

{

	mutex_lock(&node->ggtt->lock);

	xe_ggtt_assign_locked(node->ggtt, &node->base, vfid);

	mutex_unlock(&node->ggtt->lock);

	guard(mutex)(&node->ggtt->lock);

	xe_ggtt_assign_locked(node, vfid);

}



/**
@@ -1057,14 +1066,14 @@ int xe_ggtt_node_save(struct xe_ggtt_node *node, void *dst, size_t size, u16 vfi 
	if (!node)

		return -ENOENT;



	guard(mutex)(&node->ggtt->lock);

	ggtt = node->ggtt;

	guard(mutex)(&ggtt->lock);



	if (xe_ggtt_node_pt_size(node) != size)

		return -EINVAL;



	ggtt = node->ggtt;

	start = node->base.start;

	end = start + node->base.size - 1;

	start = xe_ggtt_node_addr(node);

	end = start + xe_ggtt_node_size(node) - 1;



	while (start < end) {

		pte = ggtt->pt_ops->ggtt_get_pte(ggtt, start);
@@ -1097,14 +1106,14 @@ int xe_ggtt_node_load(struct xe_ggtt_node *node, const void *src, size_t size, u 
	if (!node)

		return -ENOENT;



	guard(mutex)(&node->ggtt->lock);

	ggtt = node->ggtt;

	guard(mutex)(&ggtt->lock);



	if (xe_ggtt_node_pt_size(node) != size)

		return -EINVAL;



	ggtt = node->ggtt;

	start = node->base.start;

	end = start + node->base.size - 1;

	start = xe_ggtt_node_addr(node);

	end = start + xe_ggtt_node_size(node) - 1;



	while (start < end) {

		vfid_pte = u64_replace_bits(*buf++, vfid, GGTT_PTE_VFID);
@@ -1211,7 +1220,7 @@ u64 xe_ggtt_read_pte(struct xe_ggtt *ggtt, u64 offset) 
 */

u64 xe_ggtt_node_addr(const struct xe_ggtt_node *node)

{

	return node->base.start;

	return node->base.start + node->ggtt->start;

}



/**